Проверка возможностей искусственного интеллекта выявила серьезные угрозы при попытках использовать нейросети для чтения врачебных назначений. В рамках проведенного эксперимента эксперт Зыков предложил трем востребованным моделям — ChatGPT, Gemini и Grok — распознать содержание девяти подлинных российских рецептов, написанных от руки. Несмотря на то что названия медикаментов алгоритмы определяли почти без ошибок, при работе с деталями возникли критические сбои.
Как показала практика, ИИ допускает фатальные ошибки в цифровых данных и режимах приема препаратов. В одном из случаев нейросети неверно интерпретировали количество лекарства: вместо указанных 2,16 тыс. таблеток одна модель насчитала 216, а другая — всего 60 единиц. Еще более опасной оказалась ситуация, когда искусственный интеллект самостоятельно изменил предписанную врачом терапию, заменив прием двух таблеток перед сном на схему с одной таблеткой трижды в день.
Помимо искажения цифр, аналитик Зыков зафиксировал систематическое игнорирование дополнительных инструкций, путаницу в фамилиях медицинских работников и склонность к галлюцинациям. Основная опасность заключается в том, что нейросети стремятся восстановить смысл текста через контекст: если почерк неразборчив, ИИ уверенно подставляет подходящие по смыслу слова или названия лекарств, выдавая предположения за факты. При этом системы далеко не всегда сообщают о своей неуверенности, создавая иллюзию достоверности ответа.
Ранее в контексте развития технологий киберэксперт Игорь Бедеров подчеркивал необходимость обучения детей принципам работы с ИИ и пониманию сопутствующих рисков.
