Опасен ли е изкуственият интелект? На други въпроси относно изкуствения интелект е даден отговор

Появата на ChatGPT показва, че трябва да се подготвим за бъдеще, в което изкуственият интелект (AI) играе важна роля. Тази статия отговаря на вашите често задавани въпроси.

Изкуственият интелект ще повлияе на цялото общество и това е очевидно, според професора по изкуствен интелект в университета в Утрехт Мехди Дастани. „Това е „системна технология“, сравнима с електричеството или парната машина, която влияе върху начина, по който е организиран нашият свят: пазара на труда, поведението и начина ни на мислене.“

1. Какви са потенциалните рискове от ИИ?

Един пример за това как AI влияе върху начина, по който мислим и се държим, казва Дастани, е, че компаниите изпращат повече и „по-добри“ реклами. „По този начин те влияят върху това, което купуваме и как се чувстваме за нещата.“

И това също крие рискове: „Ако AI се превърне в съществена част от нашето ежедневие, ще станем зависими от него. Помислете за скоростта, с която сме се пристрастили към технологии като навигационни системи и приложения за превод. Сега ново технологиите – с помощта на AI – се развиват толкова бързо, че не са правилно тествани и оценени. Ако започнем да го използваме колективно, това ще ни направи уязвими.

Това се потвърждава от изследователи от Института за напреднали компютърни науки (LIACS), Макс ван Дуйн и Том Коенховен. „Сега можете да видите нашата слабост, например в ChatGPT, интелигентен чатбот. Инструментът вече е много популярен. И хората играят с него, защото го намират за страхотен. Но това ги кара да са склонни да игнорират как може да се използва безплатно , и го хвърлете“, казва Van Duijn. скута ви.“ Изследователят подозира, че компанията зад ChatGPT иска главно да спечели печалба в дългосрочен план. „Чрез нашата игра ние допринасяме за развитието на платения абонамент.“

Kouwenhoven споменава друга опасност: „Склонни сме да приемаме сляпо какво ни дава изкуственият интелект, като ChatGPT. Това е рисковано, дори само защото данните, с които се обучава инструмент като ChatGPT, обикновено са на няколко месеца. Следователно наистина трябва да развийте критичен поглед.” за да използвате тези видове инструменти.

2. Как да запазим контрола върху развитието на изкуствения интелект или вече изоставаме?

„Не сме закъснели“, казва професор Дастани. „Но развитието се развива много бързо. Това се дължи на три неща: Първо, съхраняват се все повече и повече данни за това как мислим, как пишем и как действаме. Второ, компютрите стават все по-бързи и по-евтини. И трето, сега има стотици хиляди експерти по изкуствен интелект по целия свят. И големите компании се възползват и от трите неща. Те разполагат с данните, имат изчислителната мощ и най-добрите експерти.“

В това само по себе си няма нищо лошо, казва Дастани. „Това е част от свободната икономика.“ Но технически експерти като Илон Мъск предупредиха в реч миналата седмица за опасностите от изкуствения интелект. Искат комисионни, международно законодателство, знаци за качество и сертификати. Дастани: „Проблемът е, че компаниите преминават през огромно технологично развитие, но ние не можем да ги следваме законово. Създават се закони, но този процес е много по-бавен от технологичното развитие.“

Правителствата и юридическите органи нямат контрол върху развитието. Така че някои технологични експерти искат да спрат технологичните компании. „Това, разбира се, не е в природата на бизнеса, който се стреми да постигне максималното възможно“, казва професорът.

Също така погледнете

• Изкуственият интелект като решение за недостиг на персонал в грижите за психичното здраве: ChatGPT предлага потенциал

3. Реалистично ли е да се интересуваме от възможността технологията да контролира хората?

Това е нещо, което често виждаме във филми или книги: роботите се освобождават от клетката на програмистите и тръгват по своя път, смеят се ван Дуйген и Кувенховен. Van Duijn: „Въпросът е от какво точно се страхуваме. Мисля, че е основателен страх, че хора или партии със съмнителни интереси ще ни контролират по-добре чрез AI и ще го злоупотребяват. Но няма да е твърде рано да бъдем напълно доминиран от автономни технологии.“

Van Duijn вярва, че технологията ще стане по-умна през следващото десетилетие. „Технологиите понякога са много умни, но те са основно в един домейн. Мисля, че броят на домейните ще се увеличава и ще се припокрива. През следващото десетилетие определено ще бъдем изумени какво могат да направят технологиите, но досега хората винаги са били умни и са се доказали като достатъчно иновативни, за да се справят с него, а също и да увеличат своята интелигентност с него.“

Преди няколко години компютърът на Google победи световния шампион в настолната игра Go, игра от Азия, сравнима с шах. Миналия месец бяха публикувани научни статии, показващи, че хората вече са разработили тактики, за да си върнат компютъра, така че дори хората да са победени, те могат да продължат напред и да измислят нови творчески решения.

4. Можем ли да сме сигурни, че AI „казва истината“?

„Това наистина е въпрос, който задава нов инструмент като ChatGPT“, казва Дастани. „Хората често смятат, че всички отговори на ChatGPT са правилни. Но това не трябва да е така.“

„Истината е отделна функция на ChatGPT“, казва Ван Дуйн. „Инструментът е предназначен основно да създава нов език по възможно най-естествения начин. И да действа като полезен помощник. Това не означава, че инструментът прави всичко, но „истината“ не е първият приоритет.“

Компанията зад ChatGPT се ангажира да разработи системи, които могат да преценят дали една история е написана от ChatGPT или не. Но тези системи все още не съществуват. Kouwenhoven: „Можете да попитате инструмента колко сигурен е в отговора, например по скала от 1 до 10. Но дали отговорът е „правилен“ или не зависи от данните, върху които е обучен.“ Следователно самият модел няма познания за правилно или грешно и остава човешка работа да го оцени.

Също така погледнете

• Ще улесни ли работата ни изкуственият интелект? Матиас и Уолтър наистина го използват, с различна степен на успех

5. Как да разберете от кои източници AI получава своята информация и колко надеждни са резултатите?

Kouwenhoven и Van Duijn подчертават, че е публикувана много малко информация за ChatGPT. Те обясняват, че инструментът взема информация от различни източници и комбинира тази информация в отговор. „Самият инструмент не знае точно откъде сте го взели. Можете да попитате откъде идва информацията, но тогава инструментът вероятно ще търси само източника, който съответства на информацията, която сте предоставили по-рано – не толкова места с имена, колкото където определена част от информацията идва от“, казва той. Van Duijn.

Kouwenhoven: „Изкуственият интелект, разбира се, е много по-широк от ChatGPT сам. Но следното се отнася за всички системи: ако данните, в които е въведен инструментът, са неправилни, ще бъде получен и неправилен отговор. Един инструмент наистина може да развие повече от данните дадено му.”

Дастани: „Има много инструменти, които правят предсказуеми връзки между различни данни и след това стигат до прогноза. Например, ако даден инструмент получи данни за доходите и пола, той може да стигне до заключението, че доходите на жените са по-ниски от тези на мъжете. Може да е вярно, но може да не е желателно или приложимо в отделен случай.

6. Какъв е пример за полезен или полезен резултат за ИИ?

Има много предимства, според проф. Дастани. „Изкуственият интелект може да поеме работа, която малко хора искат да вършат. А в науката може да доведе до нови открития. AI може да помогне в медицинските науки, например, когато се използва за сравняване на свойствата на ДНК със специфични заболявания.“

Ал-Дастани твърди, че развитието на изкуствения интелект не е нещо лошо. „Проблемът е, че трябва да се научим как да го използваме. Точно както с калкулатора. Не е голяма работа, но трябваше да разберем кои тестове позволяваме и кои не.“