Интернет-магазин начал продавать книги об СДВГ, написанные нейросетью

6 мая. ПРАВМИР. На интернет-площадке Amazon начали продавать книги об СДВГ, написанные искусственным интеллектом.

Выяснилось, что в изданиях, авторами которых не являются специалисты с медицинским образованием, содержатся небезопасные советы и противоречащая официальной медицине информация.

Об этом пишет The Guardian. Издание ссылается на анализ компании Originality.ai, которая обнаруживает созданный нейросетями контент.

Компания подтвердила, что как минимум восемь книг по теме СДВГ, продающихся на сайте Amazon («Навигация по СДВГ у мужчин: процветание с поздним диагнозом», «Мужчины с СДВГ: высокоэффективные методы для освоения концентрации, управления временем и преодоления тревоги», «Диета и фитнес для мужчин с СДВГ у взрослых» и другие), написаны исключительно нейросетью.

Так, в одной из книг говорится, что друзья и семья не «прощают эмоционального ущерба, который вы наносите. Боль и обида, вызванные импульсивным гневом, оставляют неизгладимые шрамы». Читателям с диагнозом СДВГ сообщалось, что у них «в четыре раза больше шансов умереть значительно раньше» и что их состояние «катастрофично».

«Генеративные системы искусственного интеллекта, такие как ChatGPT, возможно, были обучены по многим медицинским учебникам и статьям, но они также были обучены псевдонауке, теориям заговора и художественной литературе», — сказал исследователь информатики в Королевском колледже Лондона Майкл Кук.

Эксперты считают, что интернет-магазин несет этическую ответственность за защиту от чат-ботов, которые пишут на деликатные или опасные темы.

По словам профессора Шеннон Вэллор, сейчас существует пробел в законодательстве в связи с появлением ИИ.

Если раньше в издательском деле существовали ограничения, связанные с вопросами репутации и проверкой авторов и рукописей, то сейчас они «полностью трансформировались» под влиянием искусственного интеллекта.

Книги, созданные нейросетями и чат-ботами, не маркируются особым образом, но к ним не применим закон об авторском праве. В свою очередь, никто не несет ответственность за вредоносный контент.

СДВГ – синдром дефицита внимания и гиперактивности. Это расстройство поведения и психического развития, которое проявляется в трудности концентрации внимания, плохо управляемой импульсивности, гиперактивности. Встречается как у детей, так и у взрослых.