0

Искусственный интеллект: благо или угроза?

Проблема искусственного интеллекта давно беспокоит самые светлые умы человечества. Три закона робототехники, сформулированные Айзеком Азимовым в далеком 1942 году, постепенно забываются, а способность механизмов, наделенных электронным разумом, наносить вред человеку, уже ни у кого не вызывает сомнения. Один из последних случаев — гибель работника концерна Volkswagen в 2015 году. Роботизированный механизм, созданный для сборки автомобилей, повел себя неожиданно и нанес смертельные травмы человеку. Странным совпадением явилось то, что эту жуткую новость освещала журналист издания Financial Times Сара О’Коннор — полная тезка героини фантастического боевика «Терминатор».

В этом же году, несколько десятков бизнесменов, ученых и изобретателей, в число которых входили Стив Возняк, Илон Маск и Стивен Хокинг, призвали страны, активно занимающиеся разработками в области искусственного интеллекта, полностью отказаться от создания оружия, наделенного разумом. На днях бизнесмен и ученый Илон Маск снова обратился к человечеству с этой просьбой и на следующий день произошел еще один труднообъяснимый случай — робот-полицейский, охранявший один из нью-йоркских торговых центров, покончил с собой, утопившись в фонтане. Расследование этого ЧП показало, что это действие было не случайным — устройство действовало целенаправленно и, вероятно, осознанно. Неизвестно, узнаем ли мы причину первого в истории робототехники суицида, но эта новость стала еще одним тревожным звонком, говорящим о том, что мы не всегда способны предсказать действия наделенных интеллектом механизмов.

В 2016 году на международной выставке в Китае, безобидный робот, предназначенный для работы с детьми, сошел с ума и начал крушить все вокруг себя. В этот раз не обошлось без пострадавших — был травмирован один из сотрудников компании-владельца экспозиции, а нескольким очевидцам потребовалась помощь психолога.

Робот Little Chubby

Травмированный сотрудник пытался остановить вышедшее из под контроля устройство и получил травму лодыжки и несколько порезов битым стеклом. Повреждения оказались настолько серьезными, что его пришлось госпитализировать. Робот Little Chubby создавался как развлекательно-обучающее оборудование для детей от 4 до 12 лет. Если верить информации от производителя, то расследование этого ЧП показало, что оператор перепутал кнопки управления, а датчики безопасности не функционировали из-за открытой панели на корпусе робота. Но вполне вероятно, что компания просто хотела избежать скандала и связанной с ней потери репутации.

В прошлом году в Калифорнийском университете был проведен небольшой, но очень важный эксперимент. Инженер Беркли Александр Ребен, специализирующийся в области искусственного интеллекта, создал примитивного робота, который способен самостоятельно принимать решения о том, нанести человеку вред или нет. Устройство представляло собой манипулятор с иглой, подключенный к компьютеру с ПО, которое можно назвать разумом. Поднося палец к определенному месту на основании механизма, человек может спровоцировать робота на укол иглой, но решение машина принимает самостоятельно, используя ей одной понятные мотивы.

Самое неприятное в этом эксперименте то, что даже создатель машины не способен предсказать, произойдет укол или нет. Пока речь идет о простом уколе пальца, все может показаться не таким страшным, но представьте себе, что искусственный интеллект получит возможность управлять боевыми беспилотниками, ядерным оружием или роботами-солдатами. Перспектива эта является не слишком отдаленной, так как боевых машин, способных действовать в условиях боя без человека, уже достаточно много и они эффективно используются в войнах и локальных конфликтах. Сегодня роботами такого типа управляют дистанционно операторы, но технология, обеспечивающая принятие оперативных решений в условиях боя самими механизмами, не просто витает в воздухе, но уже находится в стадии активной разработки в нескольких странах.

Боевой беспилотник США

В своей речи, произнесенной перед Национальной ассоциацией губернаторов США, Илон Маск назвал искусственный интеллект наибольшей угрозой человечеству, за всю его историю. Изобретатель считает, что разработку ИИ нельзя отдавать на откуп частным компаниям — только строгий контроль за технологиями со стороны государства может гарантировать относительную безопасность. Маск заявил, что имеет доступ к самым различным технологиям ИИ и это неправильно, ведь при таком подходе заполучить опасные разработки сможет и любой другой человек, не столь обремененный проблемами гуманизма. Речь была достаточно жесткой и по мнению присутствующих, максимально убедительной.

Один из основателей технологического гиганта Apple, Стив Возняк, полностью согласен с Илоном Маском. По мнению программиста, при работе над ИИ интеллектом следует руководствоваться законом Мура, который гласит о том, что машина ни в коем случае не должна быть умнее человека и думать как он. В том случае, если электронный мозг поймет, что он эффективнее человеческого, можно ожидать, что машины попытаются взять управление компаниями, производствами и, что самое страшное, вооружениями, под свой контроль. Кроме этого, Возняк обеспокоен и тем, что даже самая умная машина вряд ли будет обладать такой необходимой особенностью разума как интуиция и наверняка не сможет руководствоваться принципами гуманизма. В своей речи, также прозвучавшей в 2015 году, всемирно известный разработчик программного обеспечения также заявил о том, что ИИ может появиться и без участия человека, если для этого создадутся предпосылки и определенные условия.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *