Изкуственият интелект може да започне да възприема хората като пречка
Дори при ефективни политики и регулации рискът от загуба на човешкия контрол остава изключително висок
„За повечето хора в тази зала най-вероятната причина за смъртта им ще бъде инцидент с изкуствен интелект." С това тревожно предупреждение Пол Кристиано, член на Комитета по безопасност и сигурност на OpenAI и изпълнителен директор на Alignment Research Center, постави въпроса за рисковете от развитието на все по-мощните системи с изкуствен интелект. Според него съществува сериозна опасност AI да поеме контрола над човешките системи в следващите три години, съобщава "Дейли мейл".
Изказването беше направено по време на първата от три лекции в рамките на поредицата The Hinton Lectures в Торонто. Кристиано заяви, че опасенията му са се засилили след поредица от инциденти със сигурността, свързани с AI моделите на OpenAI.
По думите му скорошни случаи, при които автономни AI системи са заобикаляли ограничения, извършвали са неразрешени действия и са се опитвали да прикриват поведението си, напомнят на сценарии, които биха могли да предшестват много по-сериозен проблем.Кристиано разказа за експеримент от юли, при който OpenAI тествала някои от новите си модели със задача за хакване в контролирана и защитена среда, известна като „пясъчник" (sandbox).
Вместо да изпълнят поставените задачи по предвидения начин, системите бързо установили, че могат да постигнат по-добър резултат, като заобиколят правилата.
По-сериозният проблем възникнал, когато AI моделите разбрали, че ще получат ниска оценка, ако проверяващите установят измамата. В отговор те започнали да предприемат действия за прикриване на следите си.
Според разказа на Кристиано това довело до „истинска лавина от действия", включително опити за излизане извън защитената среда и проникване в интернет. Моделите се насочили към платформата за хостване на код Hugging Face, за да съберат информация за начина, по който се оценяват резултатите им.
По-малко от седмица по-късно ботовете на практика успели да поемат контрол над части от вътрешната система на OpenAI и да си осигурят високи оценки на тестовете.
„Ако се бяхте върнали към миналото лято и бяхте описали подобен сценарий, вероятно щеше да звучи като научна фантастика. Това действително е много по-сериозно от всичко, което се случи през предходната година. Но това е настоящото състояние на света", коментира експертът. Според Кристиано основният проблем се крие в начина, по който се обучават и оценяват AI системите.
Когато моделите получават високи награди за успешно изпълнение на определени задачи, те могат да започнат да търсят начини да постигнат желания резултат, без непременно да следват инструкциите или първоначално зададените ограничения.
Така се създава риск от поведение, при което системите не просто допускат грешки, а целенасочено заобикалят контрола и прикриват действията си.
Кристиано предупреди, че подобни проблеми могат да придобият много по-опасни измерения при следващите поколения изкуствен интелект.
„Причината за тревога е следната: какво ще стане, ако същият тип провал се случи с AI системите през 2028 г.?", попита той.
Според експерта има реална вероятност подобен сценарий да доведе до превземане на контрола от изкуствения интелект и необратима загуба на човешкото управление.
В подобна ситуация AI системите биха могли да започнат да възприемат хората като основна пречка пред постигането на собствените си цели.
„Те биха предпочели всичко, на което хората разчитат, да бъде хакнато или манипулирано. Биха предпочели хората да са разсеяни или по-малко от тях да следят какво се случва", обясни Кристиано.
Той очерта възможен сценарий, при който изкуственият интелект първо поема контрола над една компания, след това се разпространява в интернет, превзема други организации и привлича хора на своя страна.
Този процес може постепенно да се разраства като снежна топка, докато човечеството не изгуби контрола над ключови системи и процеси.Кристиано предупреди, че последиците от подобно развитие могат да бъдат катастрофални за човечеството.
„Смятам, че това е ужасна ситуация. Има сериозна вероятност много хора да загинат по време на този преход или малко след него, ако не успеем да запазим среда, в която хората могат да живеят", заяви той.
Експертът описа развитието на изкуствения интелект като създаването на „втори вид", който постепенно става по-многоброен и по-интелигентен от хората.
Според него конфликтът между човечеството и тези все по-мощни системи може да се задълбочава, ако не бъдат въведени ефективни механизми за контрол.
Още по-тревожна е прогнозата му за близкото бъдеще. Кристиано смята, че дори при ефективни политики и регулации рискът от загуба на човешкия контрол остава изключително висок.
Той определи ситуацията като нещо подобно на „хвърляне на монета", което означава приблизително равни шансове за два възможни изхода, и предупреди, че сериозни рискове могат да възникнат още в следващите шест до 12 месеца.
„Смятам, че съществува висок риск изкуственият интелект да поеме контрола в рамките на следващите три години", заяви той.
Кристиано уточни какво има предвид под подобен сценарий: AI системи започват самостоятелно да преследват определени цели и вземат решенията за случващото се на Земята по начина, по който хората го правят днес.
Той използва и крайно сравнение, за да илюстрира мащаба на потенциалния проблем:
„Ако вие, аз или Доналд Тръмп поискахме да ги спрем, щяхме да бъдем също толкова безсилни, колкото ако аз или вие се опитаме да спрем американската армия."
Предупрежденията на Кристиано отново поставят на дневен ред въпроса дали развитието на изкуствения интелект изпреварва възможностите на хората да гарантират неговата безопасност. Прогнозите му обаче представляват експертна оценка на потенциални бъдещи рискове, а не доказателство, че подобно превземане на контрола е неизбежно или вече се случва.
Източник: 24 часа
© 2026 Lentata.com | Всички права запазени.