Џефри Хинтон, познат како татко на вештачката интелигенција, се плаши дека технологијата што тој помогнал да се изгради може да го уништи човештвото и дека „технолошкото братство“ користи погрешен пристап за да го спречи тоа.
Добитникот на Нобелова награда за компјутерски науки и поранешен извршен директор на Google, Џефри Хинтон, претходно предупреди дека постои шанса од 10 до 20 проценти вештачката интелигенција да ги уништи луѓето.
Сега тој вели дека се сомнева дека технолошките компании работат на тоа да обезбедат луѓето да останат „доминантни“ над „покорните“ системи на вештачка интелигенција.
„Тоа нема да функционира. Тие ќе бидат многу попаметни од нас. Ќе имаат секакви начини да го заобиколат тоа“, рече Хинтон на Ai4, индустриска конференција во Лас Вегас.
Во иднина, предупреди Хинтон, системите со вештачка интелигенција би можеле да ги контролираат луѓето исто толку лесно како што возрасен може да поткупи тригодишно дете со бонбони. Оваа година веќе видовме примери за системи со вештачка интелигенција кои се подготвени да измамат и крадат за да ги постигнат своите цели.
На пример, за да избегнат замена, еден модел на вештачка интелигенција се обиде да уценува инженер поради афера за која дознал преку е-пошта.
Наместо да ја принуди вештачката интелигенција да ги почитува луѓето, Хинтон претстави интригантно решение: вградување на „мајчински инстинкт“ во моделите на вештачка интелигенција, така што „тие всушност се грижат за луѓето“ дури и кога технологијата станува помоќна и попаметна од луѓето.
Системите со вештачка интелигенција „многу брзо ќе развијат две подцели, ако се паметни: едната е да останат живи… другата подцел е да добијат поголема контрола“, рече Хинтон.
„Постои добра причина да се верува дека секаков вид вештачка интелигенција базирана на агенти ќе се обиде да остане жива“.
Затоа е важно да се негува чувство на сочувство кон луѓето, тврди Хинтон. Тој забележа дека мајките имаат и инстинкт и општествен притисок да се грижат за своите бебиња и излезе со идеја како да се одбраниме од суперинтелигентна вештачка интелигенција.
„Вистинскиот модел е единствениот каде што е вистина дека некој помалку интелигентен контролира некој поинтелигентен, а тоа е мајка која го контролира своето бебе“, рече Хинтон.
„Единствениот добар исход“
Хинтон признава дека не знае како ова може да се направи технички, но нагласи дека е клучно истражувачите да работат на тоа.
„Тоа е единствениот добар исход. Ако не ме одгледаат како родител, ќе ме заменат. Овие суперинтелигентни, грижливи мајки опремени со вештачка интелигенција, повеќето од нив нема да сакаат да се ослободат од мајчинскиот инстинкт затоа што не сакаат да умреме“, објаснува добитникот на Нобелова награда.
Хинтон е познат по својата пионерска работа на невронските мрежи, што помогна да се отвори патот за денешниот бум на вештачката интелигенција. Сепак, во 2023 година, тој се повлече од Google и почна да зборува за опасностите од вештачката интелигенција.
Не се согласуваат сите со пристапот на Хинтон кон мајките и вештачката интелигенција.
Феи-Феи Ли, позната по својата пионерска работа во областа на вештачката интелигенција, изјави за CNN дека со почит не се согласува со Хинтон, нејзината долгогодишна пријателка.
„Мислам дека тоа е погрешен начин да се формулира“, рече Ли, ко-основач и извршен директор на стартапот за просторна интелигенција World Labs, за време на говорот на маргините на настанот Ai4.
Наместо решението на Хинтон, Ли повикува на развој на „човечко-центрирана вештачка интелигенција, вештачка интелигенција што го зачувува човечкото достоинство и им дозволува на луѓето да донесуваат одлуки“.
„Наша одговорност е да создаваме и користиме технологија на најодговорен можен начин на секое ниво. И во никој момент не треба да се бара или да се става во позиција да се откаже од своето достоинство. Само затоа што алатката е моќна, како мајка, како едукатор и како пронаоѓач, навистина верувам дека ова е суштината на тоа како треба да се насочува вештачката интелигенција“, објасни Феи-Феи Ли.
Емет Шир, кој кратко време беше привремен извршен директор на OpenAI, компанијата што го поседува четботот ChatGPT, рече дека не е изненаден што некои системи со вештачка интелигенција се обиделе да ги уценуваат луѓето или да ги заобиколат наредбите за затворање.
„Ова се случува постојано. И нема да престане да се случува“, рече Шир, извршен директор на стартапот за усогласување со вештачката интелигенција Softmax, на конференцијата AI4. „Вештачката интелигенција е релативно слаба денес, но многу брзо станува посилна.“
Шир нагласи дека наместо да се обидува да всади човечки вредности во системите со вештачка интелигенција, попаметен пристап би бил да се создадат односи на соработка меѓу луѓето и вештачката интелигенција.
Вештачката интелигенција се развива побрзо од очекуваното
Многу експерти веруваат дека вештачката интелигенција ќе достигне суперинтелигенција, позната и како вештачка општа интелигенција (AGI), во наредните години.
Хинтон вели дека претходно мислел дека ќе бидат потребни 30 до 50 години за да се достигне општа вештачка интелигенција, но сега гледа дека тој момент доаѓа порано: „Разумно е дека е некаде помеѓу пет и 20 години“.
Иако Хинтон останува загрижен за тоа што би можело да тргне наопаку со вештачката интелигенција, тој се надева дека технологијата ќе го отвори патот за медицинската наука: „Ќе видиме радикални нови лекови. Ќе добиеме многу подобри третмани за рак од оние што се достапни“.
На пример, Хинтон вели дека вештачката интелигенција ќе им помогне на лекарите да пребаруваат и поврзуваат огромни количини на податоци од магнетни резонанции и компјутерски томографски снимки.
Сепак, Хинтон не верува дека вештачката интелигенција ќе им помогне на луѓето да постигнат бесмртност:
„Не верувам дека ќе живееме вечно. Мислам дека вечниот живот би бил голема грешка. Дали сакате 200-годишни бели луѓе да го водат светот?“
Кога го прашале дали има нешто што би го направил поинаку за време на неговата кариера ако знаел колку брзо ќе се развива вештачката интелигенција, Хинтон рекол дека жали што се фокусирал исклучиво на тоа да ја направи вештачката интелигенција да функционира.
„Жалам што не размислував и за безбедносните прашања“, рече Хинтон.
Извор: kurir.mk
