Хакери, подкрепяни от службите и правителствата на Русия, Китай и Иран, са използвали инструменти на софтуера за изкуствен интелект на Microsoft,
OpenAI, за да усъвършенстват уменията си и да измамят жертвите си, се казва в
доклад на софтуерната компания, публикуван днес, предаде Ройтерс.
От Microsoft пишат в доклада си, че са проследили връзките на хакерските групи с руското военно разузнаване, иранската революционна гвардия, както и с китайското и севернокорейското правителство, докато са се
опитвали да усъвършенстват своите хакерските си възможности, използвайки големи езикови модели.
Компютърните програми, често наричани изкуствен интелект, сканират огромно количество текст, за да генерират звучащи по човешки начин отговори.
Компанията обяви за разкритията си, като наложи забрана на подкрепяни от държави хакерски групи да използват продуктите ѝ за изкуствен интелект.
„Независимо дали има някакво нарушение на закона или на условията за използване на услугата, ние просто не искаме такива потребители, които сме идентифицирали, проследяваме и знаем, че представляват заплаха, да имат достъп до тази технология“, каза в интервю за Ройтерс преди публикуването на доклада вицепрезидентът на Microsoft за сигурността на клиентите Том Бърт.
Руски, ирански и севернокорейски дипломати не са коментирали засега обвиненията.
Говорителят на китайското посолство в САЩ Китай Лю Пъню каза, че е против „безпочвените клевети и обвинения срещу Китай“ и се обяви за „безопасно, надеждно и контролируемо“ внедряване на технологията „изкуствен интелект“ за „подобряване на общото благосъстояние на цялото човечество“.
Тези твърдения, че подкрепяни от държави хакери са заловени да използват инструменти за изкуствен интелект, за да им помогнат да повишат възможностите си за шпионаж, вероятно ще засили опасенията от бързото разпространение на технологията и потенциала ѝ за злоупотреба, пише БТА.
Високопоставени западни служители от областта на киберсигурността предупреждават от миналата година, че измамници са злоупотребявали с такива инструменти, въпреки че досега не се знаеше много по този въпрос.
„Това е един от първите, ако не и първият случай, когато компания за изкуствен интелект излиза и обсъжда публично как потребители, представляващи заплаха за киберсигурността използват технологии с изкуствен интелект“, каза Боб Ротстед, който ръководи разузнаването на OpenAI за заплахи срещу киберсигурността.
Според OpenAI и Microsoft усвояването на техните инструменти за изкуствен интелект от хакерите е все още на „ранен етап и става постепенно“.
Бърт каза, че досега не са регистрирани пробиви от кибершпиони.
„Наистина ги наблюдавахме да използват тази технология като всеки друг потребител“, каза той.
Според доклада, хакерските групи използват големите езикови модели по различен начин.
Хакери, за които се твърди, че работят от името на руската военна шпионска агенция, известна като ГРУ, използва софтуера за проучване на „различни сателитни и радарни технологии, които могат да се отнасят до конвенционалните военни операции в Украйна“, каза „Майкрософт“.
Според компанията севернокорейските хакери са използвали инструментите за изкуствен интелект, за да генерират съдържание, което вероятно ще бъде за използвано при фишинг атаки срещу регионални експерти. Иранските хакери пък са използвали езиковите масиви за писане на по-убедителни имейли, които в даден момент използвали, за да напишат съобщение, опитвайки се да примамят „видни феминистки“ към измамен сайт.
Софтуерният гигант каза, че хакерите, подкрепяни от китайската държава, също са експериментирали с големите езикови модели, например за да задават въпроси за конкурентни разузнавателни агенции, за киберсигурността и за „важни личности“.
Нито Бърт, нито Ротстед дадоха информация за обема на хакерска активност, нито за това колко профила са били спрени.
Бърт защити политиката на нулева толерантност към хакерските групи, която не се свежда само до продукти на „Майкрософт“, като например неговата търсачка „Бинг“, и посочи, че изкуственият интелект е нова технология, чието развитие буди безпокойство.
„Тази технология е едновременно нова и невероятно мощна“, каза той.
