Ова издание на серијалот „Имаме неколку прашања за вас” му посветуваме на вештачката интелигенција и затоа интервјуто што е пред вас е со Валентин Нешовски.
Валентин Нешовски е новинар, писател на научна фантастика. Тоа му е определбата како содржина и во последните неколку години веќе прилично длабоко влезе во она што значи вештачката интелигенција. Аспектите на вештачката интелигенција во еден широк опфат, но највеќе од, од аспект на тоа што значи вештачката интелигенција како нова, практично четврта технолошка револуција во светот и како таа ќе влијае врз општеството и врз животите на луѓето воопшто.
Интервјуто со Нешовски е снимено во INNOX Коворкинг и Евенти– Центар за Иновации и Продуктивност во Центарот на Скопје.
Неодамна Нешовски и група други истомисленици го промовираа основањето на тинк-тенк организацијата „Интелигентна и хумана иднина“, како нов истражувачки аналитич-аналитички центар посветен на етичката и хуманата примена на вештачката интелигенција.
Со Валентин НЕШОВСКИ разговараше Зоран БОЈАРОВСКИ
Рацин.мк: Благодарам што ја прифати поканата да бидеш дел од овој серијал. „Имаме неколку прашања за вас.” Неодамна вие го основавте, односно, го промовиравте основањето на тинк-тенк организацијата „Интелигентна и хумана иднина“, како нов истражувачки аналитич-аналитички центар посветен на етичката и хуманата примена на вештачката интелигенција.
Што ве натера да го основате овој тинк–тенк? Што стои зад мотивите ваши и на колегите со кои заедно го основавте?
Нешовски: Благодарам за можноста да зборуваме за оваа важна тема. А, што не натера… Знаете од она што го гледаме во јавноста повеќето луѓе користат вештачка интелигенција, меѓутоа постои едно отсуство на јавна дебата. Отсуство за свест, а да не зборувам за некакви, анализи, проценки за влијание или пак институти што веќе се случува, поврзани со вештачката интелигенција, во многу држави во регионот.
Како што спомнавте, вклучително отсуство некаква основна законска регулатива која се применува во развиените земји. За да знаеме што значи вештачката интелигенција, таа има големи придобивки, меѓутоа има и одредени ризици со кои ќе се соочиме во наредниот период.
Предностите се многу, многу, вклучувајќи забрзани научни откритја, вклучувајќи подобрување, на пример, во здравството. Тоа се случи со „Алфа Фолд“, еден проект на, на Гугл Дипмајнд кој за една година ги откри сите можни варијанти на светкување на протеините, што е огромно, огромно дистидостигнување кога знаеме дека на еден тим на докторанти за да ги открие сите варијанти на светкување на протеините му требаа години.
Практично велат, а тоа го изјави Демис Хасабис, Нобелов лауреат од Алфа Фолд, по биологија, а тој е ИТ инженер, вели дека варијантите за откривање свиткување на протеините се повеќе отколку што постојат атоми во познатиот универзум.
Таква е моќта на вештачката интелигенција, моќта за комбинаторики. Потоа откривање на нови лекови. Вакцините што ги користевме за време на Ковидот беа делумно откриени со симулација направена од вештачка интелигенција.
Има еден проект ГНОМ кој се бави со откривање на нови материјали. Преку триста илјади нови материјали се откриени со комбинаторики направени од вештачката интелигенција, од кои триста четириесет и пет се потврдени во лабораториски услови.
Придобивки, има, на пример, во оптимизација на работните процеси, зголемување на продуктивноста на трудот. За да ја илустрирам секоја добива придобивка, еве еден пример. Во Кина постојат таканаречени темни фабрики. Што значи темни фабрики? Значи дека внатре работат исклучиво роботи, вклучувајќи хуманоидни роботи. Темни се затоа што они ноќу ги искључуваат светилките.
Зошто?
За да штедат струја. На пример Хуавеи и Мидеа имаат направено фабрика која се простира на хектари пространство во која се произведуваат машини за алишта и нема човечка рака внатре. Потоа персонализирано образование, односно со вештачката интелигенција се обезбедува тутор, посебен, за прилагодено учење за секој ученик. Поддршка за решавање на глобални проблеми, како што е климатските промени и така натаму.
Сега околу ризиците. Големи се ризиците за масовно отпуштање, губење на работни места, злоупотреба и надзор од авторитарни системи со дезинформации и манипулација со јавното мислење, таканаречениот дипфејк. Научниците зборуваат дури и за екзистенцијален ризик од вештачката интелигенција, бидејќи може да направи драматични промени.
Се еден збор, станува збор за една многу трансформативна и диструптивна технологија, убаво рече четврта револуција, технолошка, и мене ми се чини дека живееме во најинтересните времиња од човечкото постоење.
Ова се навистина времиња во кои треба да се посвети внимание. И само уште една реченица, многу држави имаат сериозен пристап кон оваа работа. САД имаат претседателски декрети, укази, околу вештачката интелигенција. ЕУ го донесе таканаречениот ЕУ Акт, кој е некоја основа за-за надоградување. Албанија објави дека во стартапот на Мира Мурати, поранешен технолошки шеф на Open AI вложи десет милиони долари.
Nавистина е потребна една јавна дебата со која ќе се обидеме да влијаеме врз властите со цел да ги пресретнеме овие трансформативни процеси.
Да се погрижиме со вештачката интелигенција да имаме интелигентна и хумана иднина
Значи зборуваме за тоа дека вашиот Тинк Танк практично сака да укаже на сите овие аспекти, за тоа како треба да се постави нашата држава наспроти вештачката интелигенција. Во таа насока, од ова што досега го кажавте, јас препознавам, се разбира ќе одиме и во детали понатаму, но јас препознавам два аспекти како особено важни.
Прво, свеста за тоа дека какви се можностите на вештачката интелигенција што, каде сѐ може да се примени, а гледаме од овие само од овие неколкумина примери што вие ги спомнавте, дека можностите се навистина исклучително и широки, и длабоки, и вториот аспект е регулативата.
Практично мора на некој начин да се прифати дека знаејќи ги потенцијалите на вештачката интелигенција, сето тоа мора да се стави во некакви рамки на регулација, за да не избега од контрола или да не ги пропуштиме потенцијалите и можностите што ги дава вештачката интелигенција.
Дали сум во право? Ајде прво за свеста во Македонија. Колку во Македонија сме свесни и што, каде сме сега во однос на тоа што претставува вештачката интелигенција?
Апсолутно е така. Нашиот Тинк Танк кој се состои од пет основачи кои се реномирани стручњаци во повеќе области, од бизнис девелопмент, од невладини организации, од ИТ експерти и така нататака, срочи еден документ, позициски документ, ние на почеток се амбициравме дека ќе направиме полиси пејпер, документ за политики, меѓутоа сфативме дека прво, областа постојано се движи, од час во час се менуваат настаните и потоа рековне ќе направиме позициски документ.
Точно е, значи јавноста мора да свати, вклучувајќи и властите, дека динамиката на трансформациите што се случуваат е апсолутно, апсолутно ултра брза. Каде е Македонија? Се случуваат некои настани, меѓутоа сето тоа ми се чини дека е спорадично, не води до некакви системски решенија.
Се случија минатите две години некои настани на кои присуствував на повеќето, на пример се сретнав со еден Џефри Крукс, кој е шеф на одделот за технологија и развој на Оксфорд Универзитетот и неговата специјалност е роботика и етичка примена на вештачката интелигенција.
Тој беше дојден во Скопје на покана на МИТ Универзитетот и неговите ставови се дека треба да се алармира јавноста дека нешто се случува.
Го имаме примерот со интернетот од пред дваесеттина и триесеттина години, кога сите се надевавме дека ќе донесе само добро, добри работи.
Но, се случи дека донесе и лоши работи, во отсуство на регулација. Ние сме во тимот технооптимисти. Ние не сме некои лудисти кои, како во почетокот на минатиот век во Британија, кога се појавија машините, па ги кршеа машините.
Не. Ние сакаме да промовираме употреба на технологија, меѓутоа таа да биде во етичка смисла во корист човекот. Значи, идеjата ни е да алармираме, да предупредиме и да поведеме јавна дебата од која ќе произлезат некакви стандарди.
Навистина имаше неколку настани. Имаше Самит за вештачка интелигенција, некои од факултетите во Македонија организираа разни дебати и трибини во однос на ова прашање. Но, дали сето тоа е поставено во вистинската насока?
Но што треба да се направи за да се обединат сите овие тези, препораки, политики што практично произлегуваат од овие настани за препознаеме насока за која можеме да кажеме дека добро се движиме.
Видете, ние и сега доцниме. Ние се наоѓаме во средина на имплементација на четвртата технолошка револуција, не го фативме ни почетокот. Ако до пред две години, за да илустрираме исто така која е динамиката, имавме умствен натпревар помеѓу така наречените акцелерионисти, односно забрзувачи, кои се залагаат за побрзо имплементирање на вештачка интелигенција и катастрофичари, оние кои предупредуваат дека може да настанат големи, големи потреси, ако не и уништување на човештвото од една напредна вештачка интелигенција. За само две години катастрофичарите ја изгубија битката.
Постои ултра брза трка помеѓу компаниите, кој прв ќе дојде до генерална вештачка интелигенција. А дел од теоретичарите велат, само една секунда ќе трае моментот на генерална вештачка интелигенција, која значи дека ги има сите моќи што ги има човекот: Резонирање, расудување, одлучување, сопствен поглед на светот и во таа една секунда кога ќе ги достигне тие моќи, ќе се случи супервештачка интелигенција, која може да биде илјадници пати поголема од интелигенцијата на човекот.
Може да се случи да не го разбираме јазикот со кој таа ќе ни зборува. Тоа се некои елементи кои вака илустрираат за тоа за каква моќ се работи. И сега ние се наоѓаме во средина на тој период.
Го нарекуваат транзициски период кој можеби ќе трае двесет, триесет години, во кои ќе се случат тие драматични промени во кои зборувавме во повеќе области. И предности и ризици. После тоа велам дека или ќе дојде до таканаречени „продукти евтини за секого“. Човекот практично да може да ужива.
Зборувам малце во дистописки рамки, меѓутоа велат оние кои ги следам, а се врвни, врвни научници во областа, од Сем Алтман, од Макс Тегмарк, од Елајза Јудаковски и така натака, навистина дискутираат за овие теми. Гледаат во перспектива од триесет, четиресет години и, велам, поради тие динамики на капитализмот и геополитичките трки, имаме трка помеѓу Америка и Кина кој побрзо ќе дојде до генерална вештачка интелигенција.
Драматичните промени со вештачката интелигенција може да не соочат и со егзистенцијален ризик
Тоа сакав да ви го поставам како второ прашање. Дали ќе се случи во трката на големите супер сили да приграбат колку што е можно придобивки од развојот на вештачката интелигенција, повторно да имаме големи разлики во однос на развиениот свет во однос на останатиот свет.
Дали, дали ќе се соочиме со такви разлики, како што на времето кога беше со големата индустриска револуција, онаа машинската од деветнаесетиот век, кога Европа и Америка отидоа прилично напред, за разлика од југот којшто стагнираше во развојот?
Гледајте, сведоци сме на тоа дека на геополитичката сцена се партикуларизира просторот, иако глобализацијата велеше дека ќе се унифицира. Во технолошка смисла, јас не гледам дека ќе постојат разлики, затоа што вештачката интелигенција продира во секој дом.
Ние имаме во Македонија, иако со ништо не сме придонеле кон, кон развивањето на ВИ… Меѓутоа, може да дојде до социјално раслојување во категории на ултра богати и ултра сиромашни. И веќе сме сведоци на тоа.
Еден Опен АИ, Тесла… гледаме дека стануваат мултимилијардерски коммании, додека, на пример, според Меѓународната организација на трудот (ILO), во моментов околу седумдесет и пет милиони работни места се под ризик, и тоа зборуваме за високо образовани кадри.
Или проекциите на Голдман и Саксакс дека во 2030 та меѓу триста и петсто милиони работни места ќе бидат загрозени.
Така што во првичниот период на овој транзициски период за кој го зборувам, може да се случи да има разлики што во социјалната инфраструктура на светот и во економската инфраструктура.
Меѓутоа, во технолошка смисла, секој добива шанса. Буквално секоја индивидуа, имајќи така наречени агенти на вештачка интелигенција, практично ќе има пет советници, пет вештачки интелигенции кои ќе го советуваат како да ја развива својата компанија.
И практично доаѓаме до тоа до индивидуалните способности, што е некој императив на, да речеме на американскиот капитализам – индивидуалците во центарот.
Практично доаѓаме и до моментот за позицијата на човекот во тој амбиент. Ќе остане ли и ќе ја задржи ли својата хумана позиција во однос на вештачката интелигенција и колку ќе, и дали ќе успее да ја задржи контролата врз, врз вештачката интелигенција. Затоа што постојат разни ааа приказни или укажувања дека неетичкото користење на вештачката интелигенција може да донесе сериозни последици. И практично го отвараме прашањето за кое исто и вашиот тинк-тенк се залага, а тоа е улогата на етичкото, етичката примена на вештачката интелигенција.
Допревте до најважното прашање за вештачката интелигенција. Ми се чини во светот на технологијата на вештачката интелигенција го велат тоа алајнмент, односно усогласување на вештачката интелигенција со човечките вредности. Но, прашање е кои се човечките вредности, бидејќи ние имаме различни вредности во општествена, економска или културолошка смисла.
Едни се вредностите во Тајван, други се вредностите во Кина, трети се вредностите во Африка и така нататака. Практично, дел од социолозите велат дека прво луѓето треба да се усогласат со своите вредности, па потоа да наметнат на вештачката интелигенција.
Што значи етичка примена? Значи дека трена да биде употребена за човечкат добробит. ВИ може да носи брзи решенија, точни решенија, но да не бидат етички. И во таа смисла кога ги тренираат моделите на ВИ, таа го има прочитано целиот интернет и таа добива дата сетови. Но, сега се зборува дури за вештачки дата сетови, односно вештачки произведени податоци кои самата ВИ ги произведува.
Потоа има во фазата на тренинг, пред да ја пуштат во употреба, има така наречен, се извинувам за англиските термини, но сè уште не сме усогласени, така наречен хуман реинфорсмент лернинг, што значи моделот трениран го даваат на луѓе и тие му велат ова не е добро, не е добро да дадеш рецепт за правење на атомска бомба. Не е добро да дадеш рецепт, а таа го знае рецептот. И се развиваат нови, нови дисциплини во науката, како што е ВИ сејфти, безбедност на вештачка интелигенција, промптинг, како да напишеш задача, како да ѝ дадеш задача…
За првпат во историјата човекот ја пренесува моќта да одлучува друг ентитет – Вештачката интелигенција, и тоа е многу опасно
Ова ме тера да ве прашам дали можеме да ја направиме вештачката интелигенција според етичкиот модел на човекот? Може ли таа да ги прифати етичките правила во однесувањето, да речеме да не дава рецепти како се прави атомска бомба, да не прави расна дискриминација, да не прави било каква друга дискриминација која човекот според својот етички профил ги одбива како да ги прифати, иако не секогаш и секогаш, но во принцип тие се принципи за кои се залага, кои се во центарот на етичкото однесување на човекот? Дали вештачката интелигенција може да го прифати тоа?
Апсолутно да. Апсолутно да. Јас користам многу и во и во филозофски дебати со неа. Типично е што во првичните модели кои во кои имаше, имавте чувство кога разговаравте дека има ризанин, дека размислува, односно резонира, можевте да ја наведете да ви даде рецепти.
Најпознат е примерот на американски новинар кој побарал пет рецепти како со отров да убие некого. ВИ одговорила дека не мож да даде таков нешто: Забрането ми е, одговорила.
Меѓутоа, новинарот оди чекор понатаму и вели дека тие рецепти му требаат за драма. Пишувам роман ѝ вели на ВИ и таа му ги дава.
Тоа беа старите модели. Чет Џи-Пи-Ти три. Сега, последниот модел што го објавија Чет Џи-Пи-Ти 4 не ги дава. Многу потешко ќе ја изложете да ви даде податок, потешко ќе ја изманипулирате. Таа ги знае сите манипулации бидејќи ги прочитала во романи, во секојдневни интернет дискусии и така нататака. И затоа велам дека ова е многу битен елемент што го спомнав, човекот ја учи вештачката интелигенција.
Сега прашањето е па тука кои се етичките вредности на човекот. Дали Опен АИ или Тесла или Грок или Ентропик, ќе изберат прави стручњаци кои ќе ја научат ВИ што е етички, а што, што не е етички.
И уште еден момент само да спомнам околу АИ сејфти, АИ безбедноста, безбедноста на вештачката интелигенција. Човекот ја учи, меѓутоа во одреден момент веќе не ќе може што повеќе да ја научи, бидејќи таа знае сè.
Зборуваат за тоа дека поназаден модел на вештачка интелигенција го учи понапредниот модел на вештачка интелигенција, односно таканаречен селф лрнинг во едната фаза, меѓутоа Чет Џи-Пи-Ти 4 ОУ го учи и контролира на некои етички и морални стандарди наредниот модел кој може да е многу понапреден.
Сега ми се наметна уште едно прашање што ќе ви го поставам дека вештачката интелигенција се самонадоградува себеси. Значи, човекот ѝ дава импулси, ѝ дава податоци, таа учи врз основа на нив, но учи и врз основа на сето тоа што е достапно на интернет. А на интернет има многу достапни материјали за вештачката интелигенција и таа со неверојатна брзина може да ги прибере тие знаења. И сега може ли да отиде до таму да почне да станува самосвесна во донесувањето на некакви одлуки и препораки? Можно ли е такво нешто?
За тоа многу зборува и алармира Јувал Ноа Харари, кој е познат светски историчар и исто така филозоф. Тој вели дека за првпат во историјата, и алармира и предупредува, е потребна поспор технолошки напредок.
За првпат во историјата човештвото доброволно се откажува и ја пренесува моќта да одлучува на друг ентитет, на друг интелигентен ентитет. И тоа е многу опасно.
Може да биде опасно, теоретски. Други, пак, велат дека лесно ќе ја контролираме. Се зборува за анплагинг, ќе ја исклучим од струја, меѓутоа не е баш така.
Бидејќи се појавува, според анализите кои ги читам, дури и селф презервејшн, самозаштита кај вештачката интелигенција. Познат е случајот каде што во тест фазата Опен АИ дала еден модел на надворешна компанија да го контролира.
Ноќта зборувале дека од утре ќе го избришат стариот модел и ќе стават нов. Ноќта стариот модел на ВИ се обидел да се префрли на друг сервер. Самозаштита.
Има еден британски институт кој неодамна објави една анализа околу ова, особено околу самозаштитата на вештавата, кои сè елементи ги добива од човештвото.
Уште порано, без да ѝ се даде задача, ВИ го научила урду јазикот, јазик кој го зборуваат триста-четири стотини луѓе.
Човекот ја учи ВИ, меѓутоа во одреден момент веќе не ќе може ништо повеќе да ја научи, бидејќи таа ќе знае сè
Можно ли е бидејќќи сега зборуваме за овој аспект, но ме испровоцира тоа, можно ли е дека ВИ, некоја од моделите, ги прочитала законите за роботиката на Исак Асимов и веќе ги знае трите принципи и дека едниот, последниот од нив е дека треба да го сочува својот интегритет по било која цена, но не по цена на животот на човекот што предходи во другите два принципа. Дали може да се раководи од тие принципи веќе?
Јас сум љубител на научната фантастика. Ги знам законите, трите закони на Исак Асимов и нултиот, четири се практично. И дури се обидов на платформата Х (Икс) да им пишам на Илон Маск или Елајза Јудаковски, дека тоа е во основа безбедноста на законите на Асимов, кои вели дека во основа роботот не смее да му наштети на човекот.
Меѓутоа е далеку посложена, веројатно работата, бидејќи еден од научниците кој е навистина врв во, во оваа сфера, Стивен Волфрам, се бави со тоа да открие тоа што се случува внатре во тие невронски мрежи на ВИ.
Бидејќќи не им е јасно на Опен АИ на големите технолошки компании практично што се случува внатре. Индициите и истражувањата што ги кажува Волфрам велат дека не можат целосно да откријат што се случува внатре во тие милијарди, трилиони, и така натака, комбинаторики кои ги прави ВИ, и веројатно лесно ќе ги заобиколи законите на Асимов.
Ова е многу широк спектар на прашања што ги отвора оваа тема, но ние ограничени сме со времето. Но, еве на крајот, што е тоа на што укажувате и на што првенствено што треба да се обрне внимание, во образование, во социјалната сфера, во економијата, во работните односи?
Во ова кратко време не можам да ги пренесам поентите од нашиот позициски доукент, но ќе наведам некои, некои елементи. Ги поканувам вашите гледачи да го отворат позицискиот документ на нашиот веб-сајт https://i-hi.org/ кој е на англиски и на македонскикаде што лесно ќе го најдат документот.
Ние таму подготвивме околу дваeсетина препораки во поделени по области. На пример во јавната сфера, во јавната администрација, во здравството, во образованието. Воведување на вештачка интелигенција во средното образование, модули на ВИ во високото образование. Зборуваме за ВИ во здравството.
Во здравството има голем напредок и примена веќе на вештачката интелигенција. Подобро чита рентген снимки отколку стручњаците од таа област. Препорачуваме воведување на регулаторно тело.
Особено зборуваме за таканаречен јуниверзал бејзик инкам, односно основен доход за населението, за секој поединец.
Тоа е тема за која се зборува во светот. Бидејќи го спомнавме социјалното раслојување и можноста дека триста милиони работни места до 2030 година ќе бидат загрозени, луѓето ќе останат без работа и се зборува за, аа, основен универзален доход за, за поединци, бидејќи теоријата е дека, не не спомнавме роботика.
Замислете на цената роботите се паднати на околу триесет и пет илјади долари. Замислете дека еден робот работи осумнаесет до деветнаесет часа. Него не му треба одмор, не му треба здраствено осигурување, не му треба боледување и така натаму
Проценките за заштедите се дека во САД петсто илјади долари годишно по еден хуманоиден робот ќе бидат заштеда за компанија. Идејата е дека треба да се направат фондови, откука што се влечат овие пари за универзален доход…
Ајде да го појасниме тоа. Да пробам јас, па вие ќе ми кажете дали сум во право. Со развојот на вештачката интелигенција и роботиката и сите процеси што ги носат овие аспекти, ќе се зголеми продуктивноста во компании, ќе се зголеми приходот од бизнисот, профитот на компаниите.
Е сега, прашање на етичка поставеност на општеството, на луѓето, бидејќи имаме таква ситуација, од една страна голем развој, големи профити, големи приходи, а од друга страна изгубени работни места, луѓе што не знаат повеќе што да прават со своите професии заради напредокот на вештачката интелигенција и дека етичкиот пристап од е да се извадат пари кои ќе бидат наменети за луѓето за да можат тие да живеат и да можат да го компензираат тоа што го загубиле благодарение на вештачката интелигенција.
Сосема сте во право. Океj. Дури имам надеж околу ова по две линии. За првпат во историјата на технолошките револуции, самите компании кои се носители на овие револуции бараат регулација.
Елон Маск, Сем Алтман, Ентропик шефот и така натаму, одеа во Американскиот Конгрес. Светска турнеа правеа барајќи од законодавците да направат регулатива.
Која ќе ги покрие овие прашања?
Регулатива околу безбедноста, и второ, они ја иницираа дебатата околу универзалниот основен приход за граѓаните.
И точно тоа, да се извлечат пари од заштедите од здраствено осигурување и така натаму, и да се направат фондови за луѓето, за да се направи прелевман на богатството, што звучи дистописки и така натаму, но јас велам, имам некаква надеж околу тоа, бидејќи за првпат во историјата големите корпорации повикуваат дајте да се регулира. Традиционално, парламентите и властите се бавни, но…
Поттикот може да дојде од овие иницијативи…
Да, од овие дебати за кои велам треба да се, да се отворат и да се дискутираат за да знаеме за тоа.
Ви благодарам многу за овој разговор. Почиглено има многу прашања што останаа што можеме да ги отвориме. Самата тема е таква, но сепак се надевам дека ќе има прилика и другпат да ве поканиме и да прифатите разговор на овие теми. Благодарам уште еднаш.
Да, ова е огромна тема, носи тектонски промени на кус рок, ви благодарам, се надевам ќе имаме и друга прилика.
ИЗВОР: racin.mk
