Безбедноста на OpenAI отиде јабана

May 22, 2024
1 min read

Илја Сутскевер и Јан Лејке неодамна го објавија своето заминување од OpenAI, производителот на ChatGPT. Тие беа лидери на тимот задолжен да обезбеди вештачката интелигенција да остане усогласена со целите на нејзините креатори, наместо да дејствува непредвидливо и да му наштети на човештвото.

Тие не се единствените кои заминаа.

Од ноември минатата година – кога бордот на OpenAI се обиде да го отпушти извршниот директор Сем Алтман само за тој набрзо да им се врати – уште најмалку пет од најпретпазливите вработени во компанијата или дадоа отказ или беа исфрлени.

Едно меме “Што виде Илја?” шпекулира дека Сутскевер, поранешниот главен научник, заминал затоа што видел нешто ужасно, можеби дека видел како ВИ систем може да го уништи човештвото.

Но, вистинскиот одговор може да има помалку врска со песимизмот околу технологијата, а повеќе со песимизмот околу луѓето – особено за еден човек: Алтман. Според извори запознати со внатрешните случувања, лицата кои се грижат за безбедноста ја изгубиле довербата во него.

Не многу вработени се подготвени јавно да зборуваат за ова. Меѓу другото и поради тоа што OpenAI ги натера своите работници да потпишуваат договори со кои се забранува давање негативни мислења за компанијата после заминувањето од неа. Ако одбиете да потпишете, се откажувате од вашиот капитал во компанијата, што значи дека потенцијално ќе изгубите милиони долари. Компанијата прво го демантираше тоа но самиот Алтман подоцна призна дека има такви одредби, ама работат да се смени вордингот.

Еден вработен, Даниел  Кокотајло, сепак одбил да потпише таков договор за да може слободно да каже што мисли за она што се случува во компанијата.

„OpenAI тренира сè помоќни системи за вештачка интелигенција со цел на крајот на сите полиња да ја надмине човечката интелигенција. Ова може да биде најдоброто нешто што му се случило на човештвото, но може да биде и најлошото, ако не продолжиме внимателно. Постепено ја изгубив довербата во раководството на OpenAI и нивната способност одговорно да се справуваат со она што се работи, па дадов отказ, “ рекол Кокотајло за Вокс.

Оние што заминаа, велат дека на Алтман му е најважно да се работи на комерцијализација на производите на компанијата. И неговата реакција по бучниот отказ говори за неговиот карактер:  дека ќе го уништи OpenAI заминувајќи кај конкурентниот Микрософт. Потоа се врати и го наполни одборот со луѓе за кои е сигурен дека ќе климаат со глава и нема да ги предизвикуваат неговите потези.

ИЗВОР: off.net.mk

VERO JUMBO

EVN MACEDONIA

MATINA DENTAL CLINIC

AUTO SHKOLLA BEKO

Претходно

Врсничко насилство, како да се препознае и превенира, каде затајува општеството

Следно

Модриќ останува во Мадрид уште една година

Latest from Blog

„Булмак 2016“ со четиригодишен проект за развој на детскиот спорт во Пробиштип

Спортот има клучна улога во правилниот психофизички развој на секое дете. Преку иницијативата Кошарка за секое дете во Пробиштип веќе се создаваат нови можности за најмладите да спортуваат бесплатно и да градат

Тоневски: Четвртоодделенците од „Никола Карев“ поставуваа прашања за работата на Општина Пробиштип

Ученици од четврто одделение при ООУ „Никола Карев“ ја посетија Општина Пробиштип и одблизу се запознаа со работата на градоначалникот, општинската администрација и надлежностите на локалната самоуправа. Во разговорот со градоначалникот Тони

МЕПСО инвестира во иднината на енергетиката: Се подготвува зајакнување на мрежата во југоисточниот регион

АД МЕПСО продолжува со реализацијата на стратешките активности за модернизација на електроенергетската инфраструктура во Македонија. Денеска генералниот директор на компанијата, доц. д-р Бурим Љатифи, потпиша договор со Никола Битрак, извршен директор на

Проданоски: Обезбедивме 10 телевизори за собите во Домот „Киро Крстески – Платник“

За собите во Домот за стари лица „Киро Крстески – Платник“ во Прилеп се обезбедени 10 нови телевизори во соработка со Тутунскиот комбинат АД Прилеп, соопшти градоначалникот Дејан Проданоски по посетата на

Коњановски: Битола и Турција ќе ја продлабочуваат соработката во економијата, културата и туризмот

Градоначалникот на Битола, Тони Коњановски, денеска се сретна со новиот турски амбасадор во Македонија, Алпер Акташ. Во фокусот на разговорот беа можностите за продлабочување на соработката во економијата, културата и туризмот. Коњановски
Go toTop