Главная SEO, Новости, Разное Хакеры научились обманывать алгоритмы ИИ для диагностики рака поддельными снимками
SEOНовостиРазное

Хакеры научились обманывать алгоритмы ИИ для диагностики рака поддельными снимками

Хакеры научились обманывать алгоритмы ИИ для диагностики рака поддельными снимками

Хакеры научились обманывать алгоритмы ИИ для диагностики рака поддельными снимками

Модели искусственного интеллекта (ИИ), которые оценивают медицинские изображения, способны ускорить и повысить точность диагностики рака, но они также могут быть с легкостью обмануты в результате хакерской атаки.

Исследователи из Университета Питтсбурга продемонстрировали, как медицинская программа определила, что на снимках нет следов онкологии, когда они на самом деле были и наоборот. В результате удалось обмануть как ИИ, так и опытных рентгенологов. Об этом сказано в статье, опубликованной в Nature Communications.

О подобных взломах не известно, но новое исследование дополнило предыдущие, предполагающие, что медицинские организации должны быть готовы к кибератакам. Хакеры все чаще нападают на больницы и медицинские учреждения. В большинстве случаев целью становятся данные пациентов (которые ценятся на черном рынке) либо ради выкупа блокируются компьютерные системы. Хакеры могут удаленно взламывать инсулиновые помпы, подключенные к интернету, и, например, вводить опасные дозы лекарства.

На примере маммограммХакеры научились обманывать алгоритмы ИИ для диагностики рака поддельными снимкамиХакеры научились обманывать алгоритмы ИИ для диагностики рака поддельными снимкамиИсследованиях молочной железы исследователи из Университета Питтсбурга научили алгоритм глубокого обучения различать злокачественные и доброкачественные случаи с точностью более 80%. Затем они разработали так называемую «генеративную состязательную сеть» (GAN) — компьютерную программу, которая генерирует ложные изображения, вставляя или удаляя области со злокачественными образованиями из других снимков. Ученые проверили, как ИИ их классифицирует.

Из 44 снимков с признаками онкологии, отредактированными GAN как без таковых, 42 были опознаны ИИ как без признаков рака. А из 319 изображений без онкологических процессов, измененных GAN, 209 были классифицированы как со следами новообразований. Состязательные образцы смогли обмануть ИИ в 69,1%. Эксперты определили подлинность изображений с точностью от 29% до 71%.

Хакеры научились обманывать алгоритмы ИИ для диагностики рака поддельными снимками
Примеры изображений: первый ряд — настоящие. Второй — поддельные. Третий — процесс отделения одного изображения от другого. Фото: Nature Communications

Следующим шагом будет разработка способов сделать модели ИИ более устойчивыми к подобным атакам.

В 2019 году The Washington Post рассказывало о компьютерном вирусе, меняющем результаты МРТ и КТ так, что даже врачи не в состоянии заметить признаки редактирования.

Создано вредоносное ПО, позволяющее редактировать МРТ и КТ (дорисовывать и убирать опухоли) до получения снимка. Врачи не способны выявить следы редактирования

Автор

admin

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *