Илја Сутскевер и Јан Лејке неодамна го објавија своето заминување од OpenAI, производителот на ChatGPT. Тие беа лидери на тимот задолжен да обезбеди вештачката интелигенција да остане усогласена со целите на нејзините креатори, наместо да дејствува непредвидливо и да му наштети на човештвото.
Тие не се единствените кои заминаа.
Од ноември минатата година – кога бордот на OpenAI се обиде да го отпушти извршниот директор Сем Алтман само за тој набрзо да им се врати – уште најмалку пет од најпретпазливите вработени во компанијата или дадоа отказ или беа исфрлени.
Едно меме “Што виде Илја?” шпекулира дека Сутскевер, поранешниот главен научник, заминал затоа што видел нешто ужасно, можеби дека видел како ВИ систем може да го уништи човештвото.
Но, вистинскиот одговор може да има помалку врска со песимизмот околу технологијата, а повеќе со песимизмот околу луѓето – особено за еден човек: Алтман. Според извори запознати со внатрешните случувања, лицата кои се грижат за безбедноста ја изгубиле довербата во него.
Не многу вработени се подготвени јавно да зборуваат за ова. Меѓу другото и поради тоа што OpenAI ги натера своите работници да потпишуваат договори со кои се забранува давање негативни мислења за компанијата после заминувањето од неа. Ако одбиете да потпишете, се откажувате од вашиот капитал во компанијата, што значи дека потенцијално ќе изгубите милиони долари. Компанијата прво го демантираше тоа но самиот Алтман подоцна призна дека има такви одредби, ама работат да се смени вордингот.
Еден вработен, Даниел Кокотајло, сепак одбил да потпише таков договор за да може слободно да каже што мисли за она што се случува во компанијата.
„OpenAI тренира сè помоќни системи за вештачка интелигенција со цел на крајот на сите полиња да ја надмине човечката интелигенција. Ова може да биде најдоброто нешто што му се случило на човештвото, но може да биде и најлошото, ако не продолжиме внимателно. Постепено ја изгубив довербата во раководството на OpenAI и нивната способност одговорно да се справуваат со она што се работи, па дадов отказ, “ рекол Кокотајло за Вокс.
Оние што заминаа, велат дека на Алтман му е најважно да се работи на комерцијализација на производите на компанијата. И неговата реакција по бучниот отказ говори за неговиот карактер: дека ќе го уништи OpenAI заминувајќи кај конкурентниот Микрософт. Потоа се врати и го наполни одборот со луѓе за кои е сигурен дека ќе климаат со глава и нема да ги предизвикуваат неговите потези.
ИЗВОР: off.net.mk
