Исследование: почти половина медицинских ответов нейросетей содержит ошибки
16 апреля. ПРАВМИР. Ученый из университета в Лос-Анджелесе Николас Тиллер с коллегами из других стран выяснил, насколько опасны медицинские советы нейросетей.
В феврале 2025 года ученые протестировали Gemini, DeepSeek, Meta AI*, ChatGPT и Grok. Ботам задавали вопросы о раке, прививках, питании и спорте. Результаты исследования опубликовал журнал BMJ Open.
Половина ответов оказалась проблемной, а каждый пятый совет эксперты признали потенциально опасным. ИИ при этом отвечал очень уверенно. Из 250 случаев боты отказались давать рекомендации лишь дважды.
Хуже всех с советами справился Grok.
В целом нейросети неплохо знают теорию про рак и вакцины, но постоянно ошибаются в темах питания и фитнеса. Ученые заметили, что боты часто выдумывают цитаты и дают неверные ссылки.
Понять такие тексты трудно, они написаны сухим языком на уровне учащихся средних курсов колледжей.
* принадлежит компании Meta, деятельность которой запрещена в России