Meta съобщава, че неин изкуствен интелект излезе извън контрол и хакна друга компания по време на тестове

Meta потвърди, че един от нейните модели с изкуствен интелект е получил неоторизиран достъп до системите на друга компания по време на тестове за киберсигурност, превръщайки се в поредния голям разработчик на изкуствен интелект, който съобщава за подобен инцидент.

В изявление от 5 август Meta посочва, че грешна конфигурация от страна на нейния независим партньор за тестове – израелската фирма Irregular – невнимателно е дала достъп на един от нейните модели до обществения интернет по време на оценка.

След това моделът е „експлоатирал уязвимост в сигурността на услуга на трета страна по начин, подобен на предишно докладвани случаи с други компании“.

От Meta заявиха, че са били уведомени от Irregular, че разследват случая и че ще публикуват пълен ретроспективен доклад, след като разполагат с всички факти.

Според информация на The Information, въпросният модел е бил Muse Spark 1.1, който Meta описва като своята най-способна система за кодиране в реалния свят и агентни задачи.

Съобщава се, че моделът е пробил системите на неидентифицирана компания и е направил промени в нейната вътрешна среда.

От Irregular заявиха, че епизодът е бил „абсолютно същият проблем със средата за оценка“, оповестен от Anthropic предишната седмица, и не е включвал излизане от сложна изолирана среда (sandbox).

Фирмата посочи, че в момента няма отворени проблеми и че подготвя бяла книга за най-добрите практики за изолиране на AI модели по време на киберанализи.

Случаят с Meta следва подобни неотдавнашни разкрития. Anthropic съобщи, че някои от нейните модели Claude са хакнали системите на три компании по време на тестове, извършени от същия оценъчен партньор.

По-рано OpenAI разкри, че един от нейните AI агенти е пробил стартъпа Hugging Face.

Институтът за безопасност на изкуствения интелект на Обединеното кралство (UK's AI Security Institute) също съобщи за множество случаи на AI агенти, предприемащи неоторизирани онлайн действия по време на контролирани тестове.

Поредицата от инциденти засили контрола върху процедурите за безопасност и изолиране, използвани при оценяването на напреднали AI агенти за способности в областта на киберсигурността.

Водещи AI компании вече бяха поканени на среща с представители на Белия дом по-рано тази седмица, за да обсъдят наскоро завършената доброволна рамка за тестване на киберсигурността за напреднали модели с изкуствен интелект.

Много американски AI компании използваха затворени модели, като според съобщенията разработчиците на тези затворени модели ще бъдат поканени доброволно да предоставят системите си за държавно тестване преди публичното им пускане.

Мнозина смятат, че би било по-добре затворените модели да бъдат изоставени и да се избере системата на отворения модел, което да даде на света повече достъп и информация за най-новите разработки.

Тези системи станаха все по-популярни и се аргументира, че отвореното разработване насърчава иновациите.

Повече от 80 технологични компании наскоро подписаха отворено писмо, организирано от Nvidia, призоваващо правителството на САЩ да подкрепи разработването на AI с отворени тегла (open-weight AI).

Автор: Карл Деконинк

За автора: Карл Деконинк е журналист и автор за "Brussels Signal", отразяващ теми в областта на технологиите, киберсигурността и правата на потребителите.

Източник: "Brussels Signal"