Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

WAT

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Reklama

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

Podziel się:

Oceń:

+4 0
2020-12-17 20:25

[ TEMATY ]

Wybrane dla Ciebie

Białoruś: biskupi zapraszają Leona XIV do swej ojczyzny

2025-07-05 20:50

Vatican Media

Do złożenia wizyty apostolskiej na Białorusi zaprosili Ojca Świętego podczas głównych uroczystości w sanktuarium w Budsławiu katoliccy biskupi tego kraju. 5 lipca w Narodowym Sanktuarium Matki Bożej Budsławskiej odbyły się centralne obchody ku czci patronki Białorusi, poprzedzone poświęceniem Kościoła w tym kraju Niepokalanemu Sercu Maryi, a następnie Miłosierdziu Bożemu.

Więcej ...

Dr Milena Kindziuk: Jak traktować objawienia bł. ks. Popiełuszki we Włoszech?

2025-07-05 11:38

Materiał prasowy

O duchowym przesłaniu objawień bł. ks. Jerzego Popiełuszki we Włoszech, ich zgodności z nauczaniem Kościoła, roli objawień prywatnych oraz postaci włoskiej mistyczki Franceski Sgobbi - opowiada w rozmowie z Katolicką Agencją Informacyjną dr Milena Kindziuk, współautorka książki „Niezwykłe objawienia ks. Jerzego Popiełuszki we Włoszech”. Publikacja, napisana wspólnie z ks. prof. Józefem Naumowiczem, przybliża nieznane dotąd szerzej świadectwa mistycznych spotkań z błogosławionym kapłanem i pomaga zrozumieć ich duchowy sens.

Więcej ...

Proboszczem parafii, gdzie będzie wypoczywał papież jest... Polak

2025-07-06 09:02
Castel Gandolfo gotowe na przybycie Papieża

Vatican Media

Castel Gandolfo gotowe na przybycie Papieża

Po raz pierwszy od 13 lat papież ponownie spędzi letni wypoczynek w Willach Papieskich w Castel Gandolfo. Na przyjazd Leona XIV 6 lipca czekają już niecierpliwie mieszkańcy, a także parafianie papieskiej parafii św. Tomasza z Villanova. „To jest oczywiście bardzo radosne wydarzenie dla nas. Przygotowujemy się intensywnie” – mówi Vatican News ksiądz Tadeusz Rozmus, proboszcz parafii.

Więcej ...

Reklama

Najpopularniejsze

Dziewczynka, która przebaczyła swemu zabójcy

Święci i błogosławieni

Dziewczynka, która przebaczyła swemu zabójcy

Jezus stawia dzisiaj ważne i ciągle aktualne pytanie: Czy...

Wiara

Jezus stawia dzisiaj ważne i ciągle aktualne pytanie: Czy...

Zmiany kapłanów 2025 r.

Kościół

Zmiany kapłanów 2025 r.

Rozważania na niedzielę: Dlaczego chcą osłabić...

Wiara

Rozważania na niedzielę: Dlaczego chcą osłabić...

Rodzice mogą iść do sądu. Jak szkolne świadectwo bez...

Wiadomości

Rodzice mogą iść do sądu. Jak szkolne świadectwo bez...

Jest orzeczenie Trybunału Konstytucyjnego ws. lekcji...

Wiadomości

Jest orzeczenie Trybunału Konstytucyjnego ws. lekcji...

Najwyższy pomnik Jana Pawła II na świecie zdewastowany

Kościół

Najwyższy pomnik Jana Pawła II na świecie zdewastowany

Czechy: biskup częściowo znosi obowiązek uczestnictwa w...

Kościół

Czechy: biskup częściowo znosi obowiązek uczestnictwa w...

Nowenna do Przenajdroższej Krwi Chrystusa

Wiara

Nowenna do Przenajdroższej Krwi Chrystusa