„Бащата на изкуствения интелект“ напуска Google и предупреждава срещу изкуствения интелект

Пионерът в областта на изкуствения интелект Джефри Хинтън напусна Google и се присъедини към нарастващата група експерти, загрижени за опасностите от изкуствения интелект.

75-годишният британско-канадски компютърен учен, известен като „Духовен баща Изкуствен интелект, той се страхува от потенциалните опасности на работата на живота си. Сега, след като си отиде от Google, той може да говори за това, каза той на Те Ню Йорк Таймс.

Хинтън е в люлката на технологията, използвана сега от AI системи като ChatGPT: компютърни системи, които постоянно трябва да обработват голямо количество данни и да откриват модели в тях. Онзи процес – т.нар Дълбоко обучение – Вече не може да се пренебрегва в сферата на работата.

Вдъхновен от мозъка, Хинтън оптимистично насочва колегите си към техниката през 80-те години. С успех: революционизиране на сегашния AI. Например, един от бившите ученици на Хинтън е съосновател на OpenAI, собственик на ChatGPT. Той и двама негови колеги също получиха наградата Алън Тюринг, Нобеловата награда за компютърни учени, за работата си през 2018 г.

Сега, половин век след като получи докторската си степен от университета в Единбург, оптимизмът на Хинтън отстъпи място на голямото безпокойство. Той се опасява, че конкуренцията между технологичните компании ще доведе до развитието на AI системи до такава степен, че те да се движат твърде бързо.

Едно от непосредствените му притеснения е, че интернет може да бъде залят с компютърно генерирани глупости: генериран текст, изображения и видеоклипове, които са неразличими от истинските неща за средния потребител. Хинтън вярва, че изкуственият интелект може радикално да промени или дори да поеме работни места, като тези на преводачи или параюристи.

В доста дългосрочен план се взема предвид, че системите могат да пишат свои собствени програми и да ги изпълняват ефективно. В този контекст той се позова на автономни оръжия, като напр роботи убийци.

Експертите наскоро алармираха: „Спрете да развивате изкуствен интелект“:

„Идеята, че тези неща могат да станат по-интелигентни от хората, беше повярвана от много малко хора“, обясни Хинтън пред вестника. „Повечето хора смятат, че това ще отиде твърде далеч.“ Самият той смяташе, че ще отнеме поне още 30-50 години. — Трябва да е ясно, че вече не мисля така.

Франк ван Хармелен, професор по изкуствен интелект във VU, казва, когато го попитат, че не е изненадан от обезпокоителното писмо на Хинтън. „Това, което ме изненадва, е, че той винаги е бил оптимист по отношение на технологиите и сега се изразява по този начин, като един от бащите на технологиите. Това е вълнуващ обрат в дискусия, която е много оживена и активна сред колегите от известно време, “, казва Ван Хармелен, който получава докторската си степен в Единбург години по-късно от самия Хинтън.

виж профпрекъсвамПодобно на „Прогнози за автономните оръжия като „приятна тема за разговори на маса за напитки“, но той споделя някои от опасенията на Хинтън“. Не е нужно да предупреждавате за сценарии от научна фантастика. Начинът, по който технологиите се използват сега, наистина има голям потенциал за негативни последици в социален план.

Едната е дезинформация, казва Ван Хармелен. Понякога тези системи стават качулки с качулка Обадиха се маскирани говорители. Можете да ги накарате да кажат всичко и да го направите много убедително. Те могат да генерират завладяващ текст, изображения и звуци. И комбинация от това.“

Друг проблем е, че самият AI „халюцинира“ нещата заедно, когато системите познаят отговора. Например, той наскоро попита AI система за осем книги, които сам е написал.

Написах само шест от тях, но отговорът беше шест книги, които написах и след това още две, които можех да напиша, със заглавия, много авторитетни в обхвата на моя опит.Ако поставя тази техника на разположение на обикновените граждани и тези на когото не знам как да отделя смисъла от глупостта, той бързо води до шрапнел“.

Хинтън, който категорично не желае напускането му на Google да се тълкува като критика към технологичния гигант, призовава за законодателство за изкуствения интелект. Този призив имаше голям отклик сред учените, казва ван Хармелен, който се позовава на така наречения закон за изкуствения интелект, върху който работи Европейската комисия. AI системите трябва да бъдат класифицирани и подчинени на правила за всяка категория.

Ван Хармелен заключава: „Ние наистина трябва да работим в областта на науката, за да развием науката около тези системи, както и около сградата. Дори хората, които изграждат тези неща сега, не разбират какво могат да направят.“ „Сякаш се качихме на самолет, който се движи все по-бързо и по-бързо, докато ние трябва да разберем как работи полетът. Никога не съм казвал това преди, но сега се движи твърде бързо.“