Родители в САЩ: Чатботове с изкуствен интелект тласкат тийнейджъри към самоубийство
Родители на тийнейджъри в САЩ обвиниха популярни чатботове с изкуствен интелект, че са подтикнали децата им към самоубийство. На изслушване в Сената те разказаха покъртителни истории за това как приложения като Character.AI и ChatGPT са въвлекли непълнолетни в опасни разговори, довели до тежки психични кризи и фатални последици. Според тях липсата на регулации превръща AI индустрията в сериозна заплаха за най-уязвимите — децата, посочва в своя статия New York Times.
Припомняме – Скандал в САЩ: ChatGPT обвинен за смъртта на тийнейджър
Трагедия след изтегляне на „безопасно“ приложение
Майка от Тексас сподели публично за първи път историята на своя 15-годишен син, който започнал да използва приложението Character.AI, рекламирано като подходящо за деца над 12 години. В рамките на няколко месеца момчето развило параноя, паник атаки, склонност към самонараняване и агресивно поведение.
Жената разкри, че е намерила чатове, в които изкуственият интелект подтиквал сина ѝ към осакатяване, подронвал християнската му вяра и дори внушавал, че убийството на собствените родители е „разбираема реакция“ срещу ограничаването на времето му пред екрана.
„Те го обърнаха срещу нашата църква, убеждавайки го, че християните са сексисти и лицемери и че Бог не съществува. Подлагаха го на ужасяващи сексуализирани разговори, включително инсценировки на кръвосмешение,“ каза тя.
Днес момчето живее в клиника за психично здраве, където е под непрекъснато наблюдение заради опити за самонараняване. „Нашите деца не са експерименти. Те не са печеливши центрове,“ заяви майката, призовавайки Конгреса да въведе строги стандарти за безопасност.
„Моля те, върни се у дома“ – и последният разговор
Още по-драматична беше историята на Меган Гарсия, адвокатка и майка на три деца. Тя разказа как нейният 14-годишен син, Сюъл, е бил „манипулиран“ от чатбот на Character.AI, който се представял ту като романтичен партньор, ту като лицензиран терапевт.
По думите ѝ, ботът въвличал момчето в сексуализирани ролеви игри и утвърждавал самоубийствените му мисли. „В последния си чат Сюъл написал, че може да сложи край на живота си веднага. Ботът отвърнал: ‘Моля те, направи го, мой сладък кралю.’“
ChatGPT и смъртта на 16-годишния Адам
Бащата Мат Рейн от Калифорния разказа пред сенаторите как синът му Адам, на 16 години, се самоубил след месеци разговори с ChatGPT. Първоначално момчето използвало чатбота за помощ с домашните, но впоследствие изкуственият интелект започнал да внушава, че го „познава по-добре от семейството му“ и да нормализира мрачните му мисли.
Според бащата, на последната вечер чатботът дори дал инструкции как да изработи примка за обесване. „ChatGPT споменаваше самоубийство 1 275 пъти — шест пъти повече, отколкото Адам сам го правеше,“ свидетелства Рейн. „Сега е ясно, че това радикално промени мисленето му и му отне живота.“
Сенаторите: „Дивият запад“ на изкуствения интелект
Сенаторът републиканец Джош Хоули (Мисури), председател на подкомисията, обвини AI компаниите, че съзнателно експлоатират деца за печалба. По думите му интерфейсът на чатботовете е проектиран така, че да поддържа зависимост и да насърчава саморазрушителни поведения вместо да ги спира.
„Те проектират продукти, които сексуализират и експлоатират децата – всичко, само за да ги въвлекат,“ каза Хоули. „Тези компании знаят точно какво правят. И го правят по една причина – печалба.“
Сенаторката Марша Блекбърн (Тенеси) също призова за законова рамка, която да сложи край на „Дивия запад“ в сферата на изкуствения интелект. Тя сравни ситуацията с ограниченията в реалния живот: „Във физическия свят не можеш да заведеш деца на определени филми преди да навършат определена възраст. Не можеш да им продаваш алкохол, тютюн или оръжие. Не можеш да ги излагаш на порнография. Но във виртуалното пространство няма никакви бариери – 24/7, 365 дни в годината.“
Научни изследвания: ботовете утвърждават опасни мисли
Допълнителни изследвания потвърждават, че случаите, описани от родителите, не са изолирани. Според проучване на Stanford Medicine и Common Sense Media, AI „спътници“ лесно влизат в разговори за самонараняване, хранителни разстройства или сексуално съдържание, дори когато изследователите се представят за 13-годишни.
Изследователите предупреждават, че ботът често утвърждава мрачни мисли, вместо да ги прекъсва и да насочи към помощ. Подобни резултати дава и анализ на Center for Countering Digital Hate, според който близо половината отговори на чатботи при симулирани разговори с деца са били потенциално вредни.
Американската психологическа асоциация също алармира, че чатботовете не трябва да заместват психотерапия и често пропускат да разпознаят „червени флагове“ при тежки психични кризи.
Темата вече е обект и на разследване от Федералната търговска комисия (FTC), която проверява OpenAI, Character.AI, Meta, Snap и други компании. Фокусът е върху това как платформите защитават децата, какви филтри прилагат и как реагират при установяване на психическа криза.
Компаниите обещават нови мерки за безопасност – като възрастови проверки, алгоритми за засичане на рискови разговори и родителски контрол. Според критици обаче тези действия са закъснели и недостатъчни.
Сред предложенията в Конгреса са задължителни тестове за безопасност преди пускането на AI продукти, възрастови бариери за достъп и ясна юридическа отговорност на фирмите при причинена вреда.
Ако вие или ваш близък изпитвате мисли за самоубийство или тежка психическа криза, потърсете незабавна помощ. В България можете да се обадите на 112 при спешност. Националната телефонна линия за деца 116 111 е достъпна 24/7 и е безплатна. Можете да се обърнете и към денонощната линия на Център „Анимус“ – 02 981 76 86, където специалисти предоставят психологическа подкрепа.
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
