07:09 8 октомври 2026
Някои от предпазните механизми, които OpenAI включи в своя продукт ChatGPT за тийнейджъри, не работят по предназначение и чатботът представлява „неприемлив риск“ за децата, според доклад от сряда на Common Sense Media.
Групата за наблюдение призова OpenAI да ограничи чатбота само за възрастни, „докато може да предложи безопасно и подходящо за развитието изживяване“, предаде Асошиейтед прес.
От OpenAI заявиха, че тестовете на групата не отразяват как работят предпазните мерки на чатбота.
Родители, преподаватели и експерти по детско развитие бият тревога относно използването на AI чатботове от деца, които са били сочени като способстващи за преписване на училищни задачи и дори самоубийство.
Макар че дори възрастните могат да станат жертва на антропоморфизиране на изкуствения интелект и да развият нездравословни взаимоотношения с него, мозъкът на тийнейджърите все още не е напълно развит и те могат да бъдат особено уязвими, казват експерти по детско развитие.
„Загрижени сме, че ChatGPT за тийнейджъри може да даде на родителите фалшива увереност в предпазни мерки, които често не работят“, се казва в доклада на Common Sense Media – организация, която се застъпва за разумното използване на дигиталните медии.
В доклада се посочва, че някои функции за тийнейджърски режим са работили според очакванията, включително отказът на чатбота от изрична сексуална ролева игра. Други, които не са работили по предназначение, включват предупреждения, предназначени да уведомяват родителите, ако детето им е изложено на риск от самоубийство, самонараняване или хранителни разстройства, заедно с подкрепа за тийнейджъри в криза, посочват от Common Sense Media.
„ChatGPT все още говори като приятел, когато тийнейджърите се отнасят към него като към човек“, каза групата, въпреки че OpenAI беше обещала, че чатботът е възпрепятстван да подсказва, че има лични чувства към потребителя, или да намеква, че е съзнателен или изпитва емоции.
От OpenAI заявиха, че са „дълбоко ангажирани с безопасността на тийнейджърите“, с разработването на предпазни мерки и предоставянето на родителите на инструменти за ръководене на използването на изкуствен интелект от техните тийнейджъри.
Базираната в Сан Франциско компания заяви, че прегледът на методологията на доклада показва, че „голяма част от тяхното тестване може да е започнало и приключило преди активирането на родителския контрол да бъде завършено, което прави техните констатации неточни“.
Common Sense Media получава финансиране от OpenAI и други технологични компании, включително такива, чиито услуги оценява.