Нобеловецот
предупредува дека напредната вештачка интелигенција може да предизвика
катастрофални последици преку сајбер-напади, дезинформации и развој на опасни
вируси
Џефри
Хинтон, добитник на Нобеловата награда за физика за 2024 година, рече дека не е
неразумно да се процени дека постои веројатност од 10 проценти вештачката
интелигенција да доведе до истребување на човештвото во следната деценија.
Така, тој се придружи на растечкиот број истражувачи кои предупредуваат на
опасностите што ги носи развојот на оваа технологија.
Хинтон, кој
е наречен „кум на вештачката интелигенција“, изјави за „Би-би-си њузнајт“ дека
човештвото никогаш порано не создало нешто што потенцијално би можело да стане
поинтелигентно од луѓето, што го отежнува предвидувањето на ризиците.
„Никогаш не
сме создале суштества што наскоро би можеле да бидат попаметни од нас. Не
знаеме што ќе се случи“, рече Хинтон, по што следеше прашање за шансите
вештачката интелигенција да го уништи човештвото во следните десет години.
„Проценката
од 10 проценти не ми изгледа неразумна. Но, никој навистина не знае како да
направи сигурна проценка“, рече тој, како што објави агенцијата „Анадолија“.
„Не мора
дури ни да работи во реалниот свет за да предизвика катастрофални последици“
Хинтон
забележа дека напредната вештачка интелигенција не мора нужно да контролира
физички системи за да претставува сериозна закана.
„Првото
нешто што треба да се разбере е дека не мора ни да работи во реалниот свет за
да предизвика катастрофални последици“, рече тој, додавајќи дека вештачката
интелигенција може да создаде „тотален хаос само со разговор со луѓе“.
Според него,
екстремно напредните системи би можеле да се користат за развој на опасни
биолошки или компјутерски вируси, како и за извршување разорни сајбер-напади.
Предупредувањето
на Хинтон доаѓа во време кога слични загрижености изразуваат и истражувачи
вработени во водечките компании кои развиваат вештачка интелигенција.
„Тие се
коцкаат со нашите животи“
Џејкоб
Коксон, 27-годишен истражувач кој претходно работеше на развој на основни
модели на вештачка интелигенција во „ОпенАИ“ и „Антропик“, неодамна поднесе
оставка, обвинувајќи ги двете фирми дека се тркаат да развијат
суперинтелигенција способна да се подобрува самата, и покрај потенцијалните
ризици.
„Ниту една
од овие компании не дејствува одговорно. Тие се тркаат директно кон
суперинтелигенција која може да се подобри самата себеси и во тој процес се
коцкаат со нашите животи“, рече Коксон.
Тој исто
така предупреди дека луѓето кои работат на развој на напредни системи за
вештачка интелигенција приватно изразуваат стравувања дека технологијата би
можела да претставува егзистенцијална закана за човештвото до крајот на
деценијата.
Еван
Хубингер, кој раководи со истражувањата за усогласување на вештачката
интелигенција со човечките цели и вредности во „Антропик“, јавно ги поддржа
загриженостите на Коксон и рече дека лично верува дека има повеќе од 10
проценти шанса вештачката интелигенција да „ги убие сите луѓе“ во следните
десет години.
Сепак, тој
нагласи дека сегашните системи за вештачка интелигенција претставуваат мала
непосредна опасност. Неговата најголема загриженост се однесува на можноста
суперинтелигенцијата да се појави преку процес на рекурзивно самоподобрување,
во кој системите за вештачка интелигенција би можеле самостојно да создаваат сè
помоќни верзии од себе.
Хинтон
нагласи дека истражувачите мора да најдат начин да развијат напредни системи за
вештачка интелигенција кои нема да имаат цели штетни за човештвото.
„Мора да
смислиме како да ја дизајнираме за да не го сака тоа“, заклучи Хинтон.
Извор: vecer.mk
