Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

WAT

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

Podziel się:

Oceń:

+2 0
2020-12-17 20:25

[ TEMATY ]

Wybrane dla Ciebie

Abp Galbas w Sosnowcu przeprosił wiernych za każde zgorszenie, które kiedykolwiek spowodowali księża

2024-03-28 23:35
Abp Adrian Galbas

flickr.com/episkopatnews

Abp Adrian Galbas

- Kościelne postępowanie w bulwersującej sprawie sprzed miesięcy dobiega końca - powiedział abp Adrian Galbas SAC, administrator apostolski diecezji sosnowieckiej sede vacante. W czasie Mszy Wieczerzy Pańskiej, którą odprawił w sosnowieckiej bazylice katedralnej, przeprosił wiernych za każde zgorszenie, które kiedykolwiek spowodowali księża.

Więcej ...

Za mały mój rozum na tę Tajemnicę, milknę, by kontemplować

2024-03-29 06:20

Adobe. Stock

W czasie Wielkiego Postu warto zatroszczyć się o szczególny czas z Panem Bogiem. Rozważania, które proponujemy na ten okres pomogą Ci znaleźć chwilę na refleksję w codziennym zabieganiu. To doskonała inspiracja i pomoc w przeżywaniu szczególnego czasu przechodzenia razem z Chrystusem ze śmierci do życia.

Więcej ...

Fenomen kalwarii – przegląd polskich Golgot

2024-03-29 13:00
Kalwaria Pacławska. Tu ładuje się akumulatory

Wojciech Dudkiewicz

Kalwaria Pacławska. Tu ładuje się akumulatory

- Jeśli widzimy jakiś spadek wiernych w kościołach, to przy kalwariach go nie ma - o fenomenie polskich kalwarii, mówi KAI gwardian, o. Jonasz Pyka. Dzięki takim miejscom, ludzie, którzy nie mogą nawiedzić Ziemi Świętej, korzystają z łaski duchowego uczestnictwa w Męce Jezusa Chrystusa i przeżywania w ten sposób tajemnicy odkupienia rodzaju ludzkiego. - To złota nić, która łączy wszystkie kalwarie w Polsce - podkreśla profesor Wydziału Teologicznego UMK w Toruniu, o. Mieczysław Celestyn Paczkowski. Wielki Piątek, to drugi dzień Triduum Paschalnego, podczas którego w Kościele katolickim odprawiana jest liturgia Męki Pańskiej, upamiętniająca cierpienia i śmierć Chrystusa na krzyżu. Jest to jedyny dzień w roku, w którym nie jest sprawowana Eucharystia.

Więcej ...

Reklama

Najpopularniejsze

Nowenna do Miłosierdzia Bożego

Wiara

Nowenna do Miłosierdzia Bożego

Przerażające dane: 1937 osób między 15. a 17. rokiem...

Wiadomości

Przerażające dane: 1937 osób między 15. a 17. rokiem...

Dziś Wielki Czwartek – początek Triduum Paschalnego

Kościół

Dziś Wielki Czwartek – początek Triduum Paschalnego

Dziś Wielki Piątek - patrzymy na krzyż

Kościół

Dziś Wielki Piątek - patrzymy na krzyż

Bratanek Józefa Ulmy o wujku: miał głęboką wiarę,...

Kościół

Bratanek Józefa Ulmy o wujku: miał głęboką wiarę,...

Jak przeżywać Wielki Tydzień?

Wiara

Jak przeżywać Wielki Tydzień?

Abp Galbas: Mówienie, że diecezja sosnowiecka jest...

Kościół

Abp Galbas: Mówienie, że diecezja sosnowiecka jest...

Świadectwo Abby Johnson: to, że zobaczyłam aborcję na...

Wiara

Świadectwo Abby Johnson: to, że zobaczyłam aborcję na...

Komisja Liturgiczna: apel do kapłanów o wygłaszanie...

Kościół

Komisja Liturgiczna: apel do kapłanów o wygłaszanie...