Сергей Собянин объявил об открытии нового моста через Москву-рекуФутурологи давно предупреждают об опасности, которую в будущем может представлять для человечества искусственный интеллект. О том, как высокие технологии уже сегодня наносят вред людям, рассказывает научный обозреватель Николай Гринько.
Фото: depositphotos/svitlanahulko85.gmail.com
Как ни странно, мы почти смирились с мыслью о том, что искусственный разум всех нас убьет. Не осталось, пожалуй, ни одного заметного техно-гуру, не напугавшего человечество грядущей высокотехнологичной гибелью. Но мы все равно относимся к таким предсказаниям довольно легко, так как считаем это делом далекого будущего. Между прочим, роботы, гаджеты и программы уже пытаются лишить людей жизни в самом прямом смысле этого слова. К сожалению, иногда им это удается.
В декабре 2021 года американка Кристин Ливдал купила умную колонку с голосовым ассистентом. Спустя несколько дней десятилетняя дочь женщины попросила Алексу подсказать ей свежие идеи для развлечений дома. Электронный помощник посоветовал девочке выполнить так называемый пенни-челлендж: включить в розетку какой-нибудь бытовой прибор, не вставляя вилку до конца, а потом прикоснуться к токопроводящим контактам монеткой. К счастью, сама Кристин оказалась поблизости и не позволила дочери этого сделать.
Мало того, американка отправила в компанию, выпустившую колонку, текстовую запись беседы с Алексой, и руководство быстро поменяло прошивку всех устройств. На самом деле голосовой ассистент не сам придумал челлендж. Эту опасную забаву изобрели интернет-тролли, советующие пользователям, например, заряжать смартфоны в микроволновках или использовать планшеты в качестве напольных весов. Правда, в этих случаях всего лишь повреждаются гаджеты, а "трюк" с монеткой мог на самом деле лишить ребенка жизни.
Фото: AP Photo/Charlie Riedel
Как это ни прискорбно, но от действий роботов уже довольно давно погибают люди. Первый задокументированный случай произошел 25 января 1979 года на одном из заводов компании Ford. Рабочий по имени Роберт Уильямс трудился в цеху вместе со складским механизмом. Машина, весившая почти тонну, забирала детали со стеллажей и подносила к рабочим местам. Уильямсу показалось, что робот выполняет задачу слишком медленно, и он сам забрался на стеллаж за деталью. Мощный манипулятор ударил человека по голове, травма оказалась смертельной.
По всему миру ежегодно травмируются и гибнут десятки рабочих, которых не заметили промышленные машины. Разумеется, все это списывается на невнимательность людей и несоблюдение ими техники безопасности – и в этом, несомненно, есть огромная доля правды.
Беспилотные автомобили приводят к гибели людей по той же самой причине: принимая неверные решения в экстренной ситуации. Первым человеком, погибшем от робомобиля, стала американка Элейн Херцберг: 18 марта 2018 года ее сбил беспилотник Uber, не распознавший пешехода. Согласно данным сайта, который фиксирует инциденты с автомобилями Tesla, на момент публикации этой статьи в авариях с их участием погиб 271 житель планеты (из них 12 – водители, включившие автопилот).
Фото: depositphotos/Scharfsinn
Люди гибнут по самым разным причинам, и роботы – далеко не самая распространенная из них. Мало того, в большинстве таких несчастных случаев виноваты мы сами: рабочие пренебрегают правилами, водители смотрят сериалы во время движения, дети и не слишком умные взрослые выполняют опасные задания, размещенные в Сети. Но проблема есть и в самих высокотехнологичных механизмах: их программы не способны распознавать опасность и считать высшим приоритетом сохранение человеческой жизни. То есть такие функции в них заложены, но на деле срабатывают далеко не всегда.
Так что гибель человечества от "рук" искусственного интеллекта может произойти вовсе не по злому умыслу могущественных нейросетей. Просто в какой-то момент алгоритмы, которым мы доверяем все больше важных функций, могут дать критический сбой и случайно нажать на кнопку "уничтожить". Очень хотелось бы надеяться, что этого никогда не произойдет. Хотя…
Гринько Николай
