Докато водещите умове в сферата на изкуствения интелект се надпреварват да накарат технологиите да мислят като хора, изследователи от Университета Илон си задават обратния въпрос: Как ИИ ще промени начина, по който мислят хората?
Отговорът идва с мрачно предупреждение: Много технологични експерти се притесняват, че Изкуственият интелект (ИИ) ще влоши умения, същностни за човешката природа – като емпатията и задълбоченото мислене, пише CNN.
„Страхувам се – поне засега – че въпреки че ще има нарастващо малцинство, което ще извлича все по-големи ползи от тези инструменти, повечето хора ще продължат да се отказват от самостоятелност, креативност, вземане на решения и други жизненоважни умения в полза на тези все още примитивни ИИ“, пише футуристът Джон Смарт в есе, включено в близо 300-страничния доклад на университета, озаглавен „Бъдещето на човешкото същество“, предоставен ексклузивно на CNN преди публикуването му в сряда.
Тези опасения се появяват на фона на непрекъсната надпревара за ускоряване развитието и прилагането на ИИ, която е привлякла милиарди долари инвестиции, както и едновременно скептицизъм и подкрепа от правителства по света. Технологичните гиганти залагат бъдещето си на убеждението, че ИИ ще промени всичко – как работим, как общуваме, как търсим информация – и компании като Google, Microsoft и Meta се надпреварват да изградят „агенти на ИИ“, които могат да изпълняват задачи от името на хората. Но експерти в доклада предупреждават, че подобни постижения могат да направят хората прекалено зависими от ИИ в бъдеще.
Разпространението на ИИ вече поражда сериозни въпроси относно това как хората ще се адаптират към тази нова технологична вълна – включително дали тя може да доведе до загуба на работни места или създаване на опасна дезинформация. Докладът на Университета Илон допълнително поставя под съмнение обещанията на технологичните гиганти, че стойността на ИИ се крие в автоматизирането на рутинни, повтарящи се задачи, така че хората да могат да се съсредоточат върху по-сложни и креативни дейности.
Докладът от сряда идва и след изследване, публикувано тази година от Microsoft и Университета Карнеги Мелън, според което използването на генеративни ИИ инструменти може да има отрицателно въздействие върху уменията за критично мислене.
„Фундаментална, революционна промяна“
Изследователите от Университета Илон анкетирали 301 технологични лидери, анализатори и учени, включително Винт Сърф – един от „бащите на интернет“ и настоящ вицепрезидент на Google; Джонатан Грудин – професор в Информационното училище към Университета на Вашингтон и бивш дългогодишен изследовател и ръководител на проекти в Microsoft; бившият изпълнителен вицепрезидент на Института Аспен – Чарли Файърстоун; както и футуристката и главен изпълнителен директор на Futuremade – Трейси Фолоус. Почти 200 от анкетираните са предоставили пълноформатни есета за доклада.
ИИ балонът може и да не се пука, но тарифният хаос определено му изпуска въздуха.
Над 60% от участниците са заявили, че очакват ИИ да промени човешките способности по „дълбок и значим“ или „фундаментален, революционен“ начин в следващите 10 години. Половината смятат, че промените ще бъдат както положителни, така и отрицателни в равна степен; 23% – че ще бъдат предимно отрицателни; а само 16% вярват, че промените ще са предимно положителни (останалите не знаят или не очакват съществени промени).
Анкетираните също така предвиждат, че ИИ ще доведе до „предимно негативни“ промени в 12 човешки качества до 2035 г., включително социална и емоционална интелигентност, способност и желание за дълбоко мислене, емпатия, прилагане на морална преценка и психическо благополучие.
Според доклада, тези аспекти на човешките способности могат да се влошат, ако хората все по-често се обръщат към ИИ за помощ при задачи като проучване или изграждане на връзки – само заради удобството. А спадът в тези и други ключови умения може да има тревожни последици за обществото, като „засилена поляризация, задълбочаване на неравенствата и намалена човешка самостоятелност“, пишат авторите.
Същевременно, докладът предвижда само три области, в които ще има предимно положителни промени: любознателност и способност за учене, вземане на решения, както и решаване на проблеми, иновативно мислене и креативност. Дори сред съществуващите в момента инструменти, програмите, които генерират произведения на изкуството или решават кодови проблеми, са сред най-популярните. Много експерти вярват, че макар ИИ да може да замести някои човешки професии, той също така може да създаде нови категории работа, които все още не съществуват.
Еволюцията на ИИ
Много от изразените в доклада притеснения са свързани с начина, по който технологичните лидери очакват хората да интегрират ИИ в ежедневието си до 2035 г.
Сърф казва, че очаква хората скоро да разчитат на ИИ агенти – дигитални помощници, които самостоятелно ще могат да вършат всичко: от водене на бележки по време на среща, до правене на резервации за вечеря, преговаряне по сложни бизнес договори или писане на код. Технологични компании вече пускат ранни версии на такива ИИ агенти – Amazon твърди, че обновеният гласов асистент Alexa може да поръчва хранителни продукти, а Meta позволява на бизнеси да създават ИИ агенти за обслужване на клиенти в социалните си платформи.
Такива инструменти биха могли да спестяват време и усилия в ежедневните задачи, както и да подпомагат области като медицински изследвания. Но Сърф се притеснява и от това, че хората могат да станат „все по-зависими от технологии“, които могат да се провалят или да сгрешат.
„Може да очаквате и известна уязвимост. Например – нищо от това не работи без електричество, нали?“ казва Сърф в интервю за CNN. „Тези силни зависимости са чудесни, когато всичко работи, но когато не работи – могат да бъдат изключително опасни.“
Сърф подчертава значението на инструменти, които да различават хората от ИИ ботовете онлайн, както и прозрачността относно ефективността на високостепенно автономни ИИ системи. Той настоява компаниите, които разработват ИИ модели, да поддържат „аудитни следи“, за да може да се проследи кога и защо инструментите им грешат.
Трейси Фолоус от Futuremade споделя пред CNN, че очаква взаимодействието на хората с ИИ да излезе отвъд екраните, на които днес комуникираме с чатботове. Вместо това ИИ ще бъде интегриран в различни устройства – като преносими технологии – както и в сгради и домове, където хората ще могат просто да задават въпроси на глас.
Но с тази лекота на достъп, хората може да започнат да делегират емпатията на ИИ агенти.
„ИИ може да поеме действия, свързани с доброта, емоционална подкрепа, грижи и благотворителни кампании“, пише Фолоус в есето си. Тя добавя, че „хората може да започнат да формират емоционални привързаности към ИИ персони и инфлуенсъри“, което поражда „притеснения дали автентичните, взаимни отношения няма да бъдат изместени от по-предсказуема и контролируема дигитална връзка.“
Хората вече започнаха да изграждат връзки с ИИ чатботове, с разнопосочни резултати. Някои, например, създават ИИ версии на починали близки в търсене на утеха, но родители на млади хора също така са завеждали дела, твърдейки, че децата им са били наранени от взаимоотношения с ИИ чатботове.
Въпреки това, експертите казват, че все още има време да се предотвратят някои от най-лошите възможни последствия от ИИ чрез регулации, обучение по дигитална грамотност и просто поставяне на човешките взаимоотношения на първо място.
Ричард Райсман, старши сътрудник към Фондацията за американски иновации, заявява в доклада, че следващото десетилетие ще бъде решаващо в това дали ИИ ще „допълни човечеството или ще го обезсили“.
„В момента сме тласнати в грешна посока от доминиращата сила на ‘техно-индустриалния комплекс’, но все още имаме шанс да обърнем посоката“, пише Райсман.
Може да подкрепите КритичноБГ тук:
Последвайте нашия канал в социалната мрежа Телеграм: КритичноБГ
