Суперкомпьютер IBM Watson давал небезопасные рекомендации по лечению рака
В 2012 году IBM загорелась идеей использовать искусственный интеллект для лечения рака. В сотрудничестве с онкологическими институтами компания обучила свой суперкомпьютер Watson составлять планы лечения пациентов, но революции не случилось. У экспертов есть серьёзные вопросы к системе из-за многочисленных примеров дачи небезопасных и неправильных рекомендаций.
Что известно?
Согласно внутренним документам, программное обеспечение делает «зачастую неточные» предположения. Так, Watson назначил 65-летнему пациенту с сильным кровотечениям препарат «Бевацизумаб», в списке побочных эффектов которого указан риск тяжёлого или фатального кровотечения. Сотрудники медучреждения, вместе с которым IBM разрабатывает систему, назвали это частью тестирования. Дескать, реальному человеку таких рекомендаций не давали. И на том спасибо.
В бумагах, датированных июлем 2017 года, критики в адрес Watson for Oncology было более чем достаточно. Один из докторов и вовсе заявил, что «этот продукт — дерьмо собачье», и что они не могут использовать его в большинстве случаев.
Виноваты люди
Причиной грубых ошибок системы мог быть неправильный подход к обучению, считают эксперты. Вместо информации о реальных пациентах медики скормили IBM Watson данные гипотетических больных, а вместо эффективных методик лечения — всего лишь предположения нескольких врачей. На них и основывались ответы суперкомпьютера.
А что IBM?
В компании признают, что Watson for Oncology не идеален, но его можно использовать в качестве ещё одной точки зрения, когда врачи не могут прийти к единому мнению насчёт лечения.
Источник: Engadget