Трябва да забавим темпото: милиардери се уплашиха от AI, искат повече сигурност

Лидерите на най-големите компании за изкуствен интелект в света се обединиха, че е време да забавят темпото на разработване на най-модерните си и най-доходоносни AI модели. Причината са нарастващите рискове, свързани с технологията, съобщават западни издания.

“От това лято насам изкуственият интелект се развива драстично по-бързо, водено главно от нарастващата му способност да изгражда следващото поколение изкуствен интелект. Трябва да забавим темпото, с което подобряваме възможностите на моделите с AI”, предупреди ръководителят на Anthropic Дарио Амодей. Той изрази загриженост, че при сегашните темпове на напредък изкуственият интелект може да бъде подготвен в рамките на шест до дванадесет месеца да командва рояк агенти на AI, способен да превземе интернет.

Предприемачът, чиято фирма е разработила асистента с изкуствен интелект Claude, обяви още, че Anthropic има план за засилване на проверките в индустрията, като предложи компаниите с изкуствен интелект да предоставят достъп до трети страни, които да проверяват практиките за безопасност и да докладват за инциденти.

Амодей определи твърде бързото изграждане на изкуствения интелект като “безразсъдно”, но заяви, че пълното спиране на развитието му може да лиши човечеството от ползите му или да остави технологията в ръцете на авторитарни правителства.

Шефът на OpenAI Сам Алтман подкрепи предложението за “независими оценители с достъп, подобен на този на служителите”.

“Съгласен съм с Дарио, че трябва да изпреварим новите технологии. Това беше основна тема на дискусиите, които водихме в OpenAI през последните седмици”, заяви Алтман, който ръководи ChatGPT.

Най-богатият човек в света и собственик на xAI, създател на чатбота Grok, Илон Мъск написа: “Дарио е прав”.

Преди дни Anthropic обяви, че блокира опити за използването на нейните модели с изкуствен интелект за злонамерена дейност като кибератаки, наблюдение и изследвания, които биха могли да доведат до създаването на биологични оръжия. През юли OpenAI разтърси индустрията, след като заяви, че нейният изкуствен интелект е хакнал друга компания самостоятелно в “безпрецедентен киберинцидент”.

Обединението на техлидерите идва дни след като водещ изследовател в Anthropic заяви, че подава оставка поради опасения, че фирмата и нейните конкуренти не разработват отговорно модели на изкуствен интелект, които в крайна сметка биха могли да унищожат човечеството. Джейкъб Коксън, който е работил и за конкурента на Anthropic - OpenAI, обвини компаниите, че са по-фокусирани върху това да се надпреварват една с друга, отколкото върху безопасността на своите продукти. Пред Би Би Си той обяви, че хората, работещи по технологията, са “искрено уплашени” от скоростта на нейния напредък и какво би могла да означава тя за човечеството.

Миналата седмица изследователят на Anthropic Еван Хюбингер пък заяви, че има над 10% вероятност “изкуственият интелект да може да убие всички хора” през следващото десетилетие.

Наскоро председателят на ООН по правата на човека Фолкер Тюрк призова държавите да въведат “железни гаранции относно безопасността и сигурността на изкуствения интелект, преди да е станало твърде късно”.

Някои критици обаче обвиниха Anthropic във всяване на паника с надеждата, че това ще предизвика регулаторен тласък, който би могъл да изключи конкуренцията и да остави Anthropic и OpenAI с монопол в сектора.

“Има голяма вероятност човешките същества да загубят контрол над изкуствения интелект. И какво ще се случи тогава, никой не знае. Но може ли да бъде катастрофално? Да, може”, предупреди американският сенатор Бърни Сандърс.

Същевременно шефът на Nvidia Дженсън Хуанг обяви, че идеята, че изкуственият интелект “ще бъде краят на човечеството”, е “пълна глупост”. Компанията му произвежда чипове, които захранват системите с AI. 

Източник: “24 часа”