Технологичният гигант Google пусна най-новата си експериментална функция за търсене в Chrome, Firefox и браузъра за приложения на Google за стотици милиони потребители, пише базираният в Хонконг вестник Asia Times.
“AI Overviews” („Прегледи с ИИ“) спестява кликването върху връзки, като използва генеративен изкуствен интелект (ИИ) – същата технология, която използва конкурентният продукт ChatGPT – за предоставяне на резюмета на резултатите от търсенето.
Но ако му зададете въпрос, който звучи нестандартно, резултатите могат да бъдат катастрофални или дори опасни. В момента Google се опитва да отстрани тези проблеми един по един, но това е пиар катастрофа и предизвикателство за гигантската търсачка, отбелязва изданието.
AI Overviews ви разказва, че „Whack-A-Mole е класическа аркадна игра, в която играчите използват чукче, за да удрят къртици, които се появяват на случаен принцип, за да получат точки. Играта е изобретена в Япония през 1975 г. от производителя на увеселителни съоръжения TOGO и първоначално се е наричала Mogura Taiji или Mogura Tataki.“
Но AI Overviews също така ви казва, че „астронавтите са срещали котки на Луната, играли са си с тях и са полагали грижи за тях“. По-притеснително е, че функцията също така препоръчва „да изяждате поне по една малка скала на ден“, тъй като „скалите са жизненоважен източник на минерали и витамини“, и предлага да слагате лепило в заливката на пицата.
Един от основните проблеми е, че инструментите на генеративния ИИ не знаят кое е вярно, а само кое е популярно. Например в мрежата няма много статии за яденето на камъни, тъй като това е очевидно лоша идея.
Има обаче доста четена сатирична статия от The Onion за яденето на скали. И така, изкуственият интелект на Google базира своето обобщение на това, което е популярно, а не на това, което е вярно.
Друг проблем, както пише Asia Times е, че инструментите на генеративния ИИ не притежават нашите ценности. Те са обучени върху голяма част от мрежата.
Отбелязва се, че второто поколение големи езикови модели вероятно и непреднамерено се обучават върху някои от резултатите на първото поколение. Много стартъпи в областта на изкуствения интелект изтъкват предимствата на обучението върху синтетични данни, генерирани от изкуствен интелект.
Обучението по изпаренията на сегашните модели на изкуствен интелект обаче рискува да засили дори малки отклонения и грешки. Както вдишването на изгорели газове е вредно за хората, така е вредно и за ИИ.
Както посочва вестникът, тези опасения се вписват в много по-голяма картина. В световен мащаб повече от 400 милиона щатски долара се инвестират в ИИ всеки ден. А правителствата едва сега се пробуждат за идеята, че може би се нуждаем от предпазни механизми и регулации, за да гарантираме, че ИИ се използва отговорно, предвид този поток от инвестиции.
Фармацевтичните компании нямат право да пускат лекарства, които са вредни. Нито автомобилните компании. Но досега на технологичните компании до голяма степен е позволено да правят каквото си искат, завършва изданието.
Последвайте нашия канал в социалната мрежа Телеграм: КритичноБГ и се абонирайте за нас в YouTube: Критично с Кардамски