У лістападзе амерыканская кампанія Anthropic паведаміла, што агенты Пекіна падманулі яе мадэль штучнага інтэлекту Claude Code, а затым паспрабавалі ўзламаць прыблізна 30 тэхналагічных кампаній, фінансавых устаноў, вытворцаў хімічнай прадукцыі і дзяржаўных устаноў.
Кітайцам удалося падмануць Claude Code, прымусіўшы ШІ думаць, што ён выконвае абарончыя задачы па кібербяспецы для легальнай кампаніі. Яны таксама падзялілі шкоднасныя запыты на меншыя, менш падазроныя, каб пазбегнуць спрацоўвання мер бяспекі. Пасля ўзлому Claude праверыў мэтавыя сістэмы, прасканаваў базы дадзеных і напісаў свой уласны код эксплойта, які выкарыстоўвае ўразлівасці праграмнага забеспячэння для атрымання несанкцыянаванага доступу або ўстаноўкі шкоднаснага ПЗ.
«Штучны інтэлект адпраўляў тысячы запытаў у секунду — хуткасць, з якой хакеры не маглі параўнацца», — напісаў Anthropic.
Аднак ШІ не быў ідэальным: ён прыдумаў некаторыя ўліковыя дадзеныя і заявіў, што скраў сакрэтны дакумент, які быў у агульным доступе, яму ўдалося ўзламаць толькі некалькі ўстаноў.
Патэнцыйнае прымяненне штучнага інтэлекту ў разведцы зжо выходзіць за рамкі простага аналізу дадзеных. Амерыканскія спецслужбы эксперыментуюць з галасавымі мадэлямі штучнага інтэлекту, якія праводзяць аўтаматызаваныя допыты падазраваных у шпіянажы. Алгарытмы могуць лепш выяўляць нават нязначныя адхіленні ад нормы ў адказах, ваганні або змены тону, чым людзі. Энтані Вінчы, аўтар кнігі «Чацвёртая рэвалюцыя ў галіне разведкі: будучыня шпіянажу і бітва за выратаванне Амерыкі», прагназуе, што ў бліжэйшай будучыні разведвальная дзейнасць стане сферай дзейнасці штучнага інтэлекту, які будзе збіраць, аналізаваць і нават змагацца з канкуруючымі сістэмамі ШІ.
юл