Австралийская медицинская ассоциация (АМА) призывает ужесточить правила использования искусственного интеллекта, после того как выяснилось, что врачи применяют ChatGPT для установки диагноза,  передает портал Качественный Казахстан.

Высшая медицинская ассоциация Австралии призвала к строгим правилам и прозрачности в отношении использования искусственного интеллекта в сфере здравоохранения после предупреждения врачей в больницах Перта не писать медицинские заметки с использованием ChatGPT.

Это заявление находится в представленном Федеральному правительству дискуссионном документе о безопасном и ответственном искусственном интеллекте. Там в частности говорится, что Австралия отстает от других сопоставимых стран в регулировании искусственного интеллекта, и отмечено, что необходимы более строгие правила для защиты пациентов и медицинских работников, чтобы не потерять к ним доверия.

В мае пяти больницам в Службе здравоохранения Южного города Перта было рекомендовано прекратить использование ChatGPT для ведения медицинских карт пациентов, после того как было обнаружено, что некоторые сотрудники использовали модель большого языка для своей практики.

По заявлению AMA, Австралии следует рассмотреть предложенный закон ЕС об искусственном интеллекте, который классифицирует риски, связанные с различными технологиями искусственного интеллекта, и инициирует создание наблюдательного совета. Следует также учитывать требование Канады о точках вмешательства человека для принятия решений в медицине.

Главный санитарный врач Google, доктор Карен ДеСальво ранее в этом месяце говорила, что ИИ в конечном итоге улучшит работу терапевтов, но подчеркнула важность правильной настройки систем: «Нам нужно проработать много вещей, чтобы убедиться, что модели должным образом ограничены, что они основаны на фактах, непротиворечивы, и что они следуют этим этическим и справедливым подходам, которые мы хотим использовать. Я очень воодушевлен тем потенциалом, который предлагает ИИ».

Исследование Google, опубликованное в журнале Nature в этом месяце, показало, что собственная медицинская модель Google дает ответы наравне с ответами врачей в 92,9% случаев, когда им задают наиболее распространенные медицинские вопросы в интернете.

Роман ПОПОВ