Пресметките потврдуваат: Невозможно е да се контролира вештачка суперинтелигенција

2 mins read

Напредната вештачка интелигенција е од огромна полза за човештвото, намалувајќи го до минимум ризикот од човечка грешка во разни процеси, но ако технолошкиот развој ја крене на ниво од суперинтелигенција, повеќе никој нема да може да ја контролира, потврдуваат нови пресметки.

Уште во јануари годинава група научници предупредија дека е речиси невозможно да се контролира високоразвиена компјутерска суперинтелигенција, дури ни со основните законите за роботска етика – да му служи на креаторот и да не ги повредува луѓето.

– Суперинтелигенцијата е сеопфатна и е потенцијално способна да мобилизира најразлични извори за да ги постигне целите, кои се потенцијално неразбирливи за луѓето, а не, пак, возможни за контрола – наведуваат шестемина автори на студијата објавена во „Журналот на истражувања за вештачка интелигенција“.

Фокусот на истражувањето бил на проблемот со запирање, дефиниран од пионерот на компјутерското резонирање, Алан Туринг во 1936 година: Дали компјутерската програма ќе знае дали го пронашла бараното решението или ќе продолжи вечно да бара одговор? Компјутерите се реален пример дека машините вообичаено запираат со пресметките откако ќе го понудат бараниот одговор, но Туринг математички докажал дека е логично невозможно да се потврди тоа за секоја возможна програма што би била дефинирана. Токму ова ја опфаќа евентуалната вештачка суперинтелигенција, која при барањето решенија би се потпирала на многу програми во исто време.

– Математички е невозможно да се докаже дали вештачката суперинтелигенција би стигнала до заклучок, поради што не може да бидеме апсолутно сигурни, а со тоа не би имале ни контрола врз неа – наведуваат авторите.

Пресметките покажуваат дека нема апсолутно сигурно решение ни ако вештачката интелигенција се поттикне да учи и да применува етика.

– Суперингелигентна машина што би го контролирала светот се чини како дел од научна фантастика. Но, веќе има машини што спроведуваат важни задачи независно од нивните креатори, па дури и без да разберат програмерите како машината стекнала такви вештини. Затоа се наметнува прашањето дали ваквите машини воопшто ќе може некој да ги контролира и дали тоа ќе биде опасно за човештвото – цели Мануел Себријан од Институтот „Макс Планк“ за човеков развој.

www.slobodenpecat.mk

Претходно

Коле Ангеловски, со премиерата „Птица со глава меѓу нозе“ во Драмски, слави 60 години активна уметничка кариера

Следно

Градоначалникот на Кочани кој се онесвести на прес-конференција позитивен на ковид-19

Latest from Blog

Магла на Стража

Намалена видливост од 50 до 70 метри поради појава на магла има на планинскиот премин Стража,

MacedonianEnglishAlbanian