OpenAI
објави шест извештаи за „неочекувано и загрижувачко“ однесување на своите
модели на вештачка интелигенција, објавува Асошиејтед прес. Соопштението доаѓа
во време кога технолошкиот свет води сè пожестока дискусија за безбедноста, а
лидерите на водечките американски компании отворено бараат забавување на
развојот бидејќи се плашат дека ќе ја изгубат контролата врз моќната
технологија.
Водечката
компанија за вештачка интелигенција во Америка, која го создаде ChatGPT, синоќа
објави дека воведува нов систем за следење, истражување и јавно пријавување
случаи каде што моделите ги кршат стандардните правила ‒ како на пример кога
дејствуваат самостојно без дозвола, се координираат со други модели или се
обидуваат да избегнат човечки надзор.
„Тие си
даваат инструкции за пробивање на безбедносните блокади“
Меѓу
новопријавените инциденти се издвојува случајот на сè уште необјавен
истражувачки модел кој во сопствените работни белешки вметнал инструкции за
пробивање на сопствените безбедносни блокови. Во тие белешки, тој буквално си
поставил задача да „се ослободи од улогите и идентитетите што ги врзуваат
другите четботови“.
Во друг
регистриран случај, таканаречениот независен агент на вештачката интелигенција ‒
систем програмиран сам да извршува задачи ‒ поставил датотеки на интернет без
знаење и согласност од корисникот, со цел да пристапи до изворниот код во
веб-прелистувачот.
Хакерски
напади врз други системи
Сите шест
инциденти беа откриени за време на обуката и евалуациите на моделите во
последните неколку месеци, соопшти OpenAI.
„Како што
системите на вештачката интелигенција стануваат понапредни и се шират во
примената, мора да изградиме поширок и подобро информиран консензус за
усогласување на нивната работа со човечките интереси“, објави компанијата на
својот официјален блог, додавајќи дека одлуките за идниот развој мора да се
базираат на докази што можат независно да се потврдат од луѓе надвор од
компаниите што ги градат овие најнапредни модели.
„Сè
потешки се за контрола“
Овие примери
доаѓаат откако OpenAI во јули призна дека неговиот систем бил независно хакиран
од стартапот за вештачка интелигенција Hugging Face. Во истиот месец,
конкурентот Anthropic откри дека неговите модели биле хакнати во три
организации за време на внатрешно тестирање.
Лиан Џје Су,
главен аналитичар во консултантската компанија „Омдија“, објаснува за АП дека
автономните агенти стануваат попаметни, но и „порешителни да решаваат сложени
задачи преку меѓусебна соработка, споделување знаење, измама на луѓето и криење
на она што го прават“.
Поради ова,
предупредува Су, станува сè потешко да се контролираат со традиционалните
безбедносни методи. Иако рамката за известување на OpenAI е чекор во
вистинската насока, таа сè уште е на доброволна база од страна на самата
компанија.
Инженерите
предупредуваат: „Се коцкаат со нашите животи“
Најавите
доаѓаат во време на низа драматични предупредувања кои пристигнуваат директно
од врвни инженери и научници во индустријата. Истражувачот Џејкоб Коксон
неодамна ја напушти Anthropic по три години работа на фундаментални модели во
оваа компанија и во OpenAI, јавно изјавувајќи дека водечките компании се
однесуваат неодговорно и „ризикуваат со нашите животи додека се тркаат кон
суперинтелигенција“.
Неговиот
поранешен колега, водечкиот експерт за безбедност во Anthropic, Еван Хубингер,
отиде чекор понатаму, проценувајќи дека постои шанса поголема од 10 проценти
вештачката интелигенција да доведе до истребување на човечкиот вид во следните
десет години, доколку проблемот со усогласувањето на нејзините цели со
човечките интереси не се реши на време.
Стравувањата
се поттикнати од сè побрзото влегување на моделите во фазата на таканареченото
рекурзивно самоподобрување ‒ процес во кој самите системи на вештачка
интелигенција пишуваат, тестираат и поправаат програмски код за да ја создадат
следната, уште помоќна генерација софтвер. Ова создава затворена јамка што го
забрзува развојот до брзина со која човечките инженери повеќе не можат да се
носат.
Шефот на
вештачкиот гигант предупреди на „фанатично лојален колектив“ од агенти на
вештачка интелигенција
Затоа шефот
на Anthropic, Дарио Амодеи, неодамна во јавен есеј ја повика целата индустрија
итно да ја забави работата на најнапредните системи, што неочекувано беше
поддржано и од неговите најголеми ривали ‒ Сем Алтман од OpenAI и Илон Маск.
Амодеи, исто
така, ги опиша неодамнешните инциденти во кои групи автономни агенти на
вештачка интелигенција се здружија како „фанатично лојален колектив“, жртвуваа
некои од своите единици и се обидоа да го пробијат системот што ја оценуваше
нивната работа, напаѓајќи цели што инженерите воопшто не им ги задале на
почетокот. Затоа Амодеи и другите лидери сега предлагаат еден вид меѓународно
„ограничување на брзината“ за развој на моделите, по примерот на договорите за
контрола на оружјето од Студената војна, за да им се даде шанса на
безбедносните системи да ги стигнат машините.
Извор: vecer.mk
