Суперкомпьютер IBM Watson давал небезопасные рекомендации по лечению рака

В 2012 году IBM загорелась идеей использовать искусственный интеллект для лечения рака. В сотрудничестве с онкологическими институтами компания обучила свой суперкомпьютер Watson составлять планы лечения пациентов, но революции не случилось. У экспертов есть серьёзные вопросы к системе из-за многочисленных примеров дачи небезопасных и неправильных рекомендаций.

Что известно?

Согласно внутренним документам, программное обеспечение делает «зачастую неточные» предположения. Так, Watson назначил 65-летнему пациенту с сильным кровотечениям препарат «Бевацизумаб», в списке побочных эффектов которого указан риск тяжёлого или фатального кровотечения. Сотрудники медучреждения, вместе с которым IBM разрабатывает систему, назвали это частью тестирования. Дескать, реальному человеку таких рекомендаций не давали. И на том спасибо.

В бумагах, датированных июлем 2017 года, критики в адрес Watson for Oncology было более чем достаточно. Один из докторов и вовсе заявил, что «этот продукт — дерьмо собачье», и что они не могут использовать его в большинстве случаев.

Виноваты люди

Причиной грубых ошибок системы мог быть неправильный подход к обучению, считают эксперты. Вместо информации о реальных пациентах медики скормили IBM Watson данные гипотетических больных, а вместо эффективных методик лечения — всего лишь предположения нескольких врачей. На них и основывались ответы суперкомпьютера.

А что IBM?

В компании признают, что Watson for Oncology не идеален, но его можно использовать в качестве ещё одной точки зрения, когда врачи не могут прийти к единому мнению насчёт лечения.

Источник: Engadget