Как искусственный интеллект пытался помочь в борьбе с пандемией и почему он не справился

Сегодня многим кажется, что искусственный интеллект способен взять на себя едва ли не всю работу и решить практически все загадки. Однако, если попытаться доверить ему действительно важную и серьезную задачу, чаще всего выясняется, что он не способен это сделать. О том, как и почему так получается, рассказывает научный обозреватель Николай Гринько.

Фото: depositphotos/Jirsak

Термины "искусственный интеллект" или "нейронные сети" сегодня используют для обозначения сложных компьютерных программ, которые функционируют не по жестко заданным алгоритмам, а по принципу живых клеток мозга, нейронов. Удивительно, но объяснить внятно и доходчиво, что такое ИИ и как он работает, не могут даже его создатели. И происходит это не потому, что инженеры не умеют описывать сложные вещи простым языком, а потому что они не всегда знают, как именно функционирует ИИ. Специалисты понимают, как работают нейросети, но часто не знают, почему они принимают те или иные решения.

Прежде чем нейросеть начнет работать, ее необходимо обучить. Предположим, мы хотим, чтобы система сканировала фотографии и отличала на них мужчин от женщин. Для этого в сеть сначала загружают огромное количество изображений с пометками "мужчина" и "женщина". Чем больше таких фото мы загрузим, тем лучше: система сама выделит на них особенности и структурирует базу данных.

После этого можно запустить рабочий режим: показывать любые другие фотографии, а нейросеть будет определять пол изображенных людей. Если бы это была обычная программа, то разработчикам пришлось бы указывать ей, на какие именно параметры нужно обращать внимание: длину конечностей, форму лиц, объемы груди, бедер и талии, элементы одежды, модели прически и так далее. Но ИИ выполняет эту работу сам, при этом инженеры понятия не имеют, какие именно особенности он выбирает для распознавания. И в результате часто случаются казусы.

Когда в 2020 году разразилась пандемия коронавирусной инфекции, исследователи попытались использовать ИИ для обнаружения признаков заражения на рентгеновских снимках. Над задачей работали сразу три группы инженеров из Кембриджского университета.

Фото: портал мэра и правительства Москвы/Юлия Иванко

Первый ИИ, получив несколько десятков реальных снимков, сразу же разделил их на две группы – "здоровые" и "больные". Но почему-то в "здоровых" оказались исключительно дети (причем как без признаков заражения, так и с ними), а в "больных" – только взрослые (тоже и зараженные, и нет). Выяснилось, что нейросеть научилась отличать на снимках взрослые легкие от детских, а поскольку в первую волну пандемии дети почти не болели, она автоматически отнесла всех детей в категорию "здоровые".

Вторая система выбрала для себя еще более удивительный ориентир. Дело в том, что некоторые пациенты во время рентгенографии сидят, а некоторые лежат. Среди снимков, сделанных в лежачем положении, было больше больных (просто потому, что их состояние более тяжелое), а среди "сидячих" снимков – больше здоровых. Нейросеть решила, что это определяющий признак, научилась распознавать сидячее положение пациента и на выходе раздавала всем сидячим вердикт "здоров", а всем лежачим – "болен".

Но самым удивительным оказалось поведение третьей системы. На обучающих рентгенограммах она обнаружила текстовые пометки – даты снимков и фамилии пациентов. Все эти файлы были получены из разных городов с различным уровнем заболеваемости. И нейросеть научилась распознавать на снимках почерк врачей! Если врач работает в городе с большим количеством больных, то от него, разумеется, приходит больше снимков с пометкой "есть поражение легких". Получив после обучения неразмеченные файлы, нейросеть начала сортировать их по почеркам в пометках, совершенно игнорируя реальные признаки болезни.

Одним словом, до реальной помощи искусственного интеллекта в решении серьезных задач еще очень-очень далеко. Мы пока даже задачу ему поставить толком не можем, не то что рассчитывать на результат. И все-таки так будет не всегда. Рано или поздно нейросети, находящиеся сейчас на уровне развития дождевого червя, дорастут до интеллекта собаки, а может, даже обезьяны. Правда, произойдет это нескоро – лет через 200–300, не раньше. Хотя…