Москва, 04.02.2021, 08:42:20, редакция FTimes.ru, автор Евгений Омельченко.
Человечество привыкло к стремительному развитию технологий в современном мире. Однако исследователям не дает покоя возможность соперничества ИИ с человеческим разумом. Печальные сценарии, представленные в фильме «Терминатор», кажутся не такими уж фантастическими. Насколько реальным является такое развитие событий?
Вопрос запрета создания оружия на базе ИИ активно обсуждается
Группа исследователей из института людей и машин имени Макса Планка провела новый анализ действий сверхразумных машин, и признала, что их действия могут быть неконтролируемыми. В издании Journal Of Artificial Intelligence Research отмечается, что безопасное прогнозирование действий ИИ возможно при точном моделировании в воссозданном мире, что на данный момент невозможно осуществить.
Умные девайсы и робототехника стали неотъемлемой частью нынешнего мира. Лидеры рынка в лице Apple, Amazon, Google и других корпораций внедряют все больше технологий с использованием «artificial intelligence», или попросту ИИ (искусственный интеллект). Однако развитие таких технологий ушло настолько вперед, что машины способны действовать не согласно с запрограммированными командами, а вырабатывать собственные модели поведения.
В консультативной группе американского Конгресса даже обсудили использование автономного оружия, базирующего на деятельности ИИ, но отказались от подобной затеи ввиду ее аморальности. Сейчас ведутся активные споры по поводу полного запрета создания такого типа оружия. В противном случае оно рискует представлять еще большую опасность для человечества, чем ядерные боеголовки. Сложно представить, что будет, если роботизированная техника выйдет из-под контроля, и машины, созданные человеком, восстанут против него. Киборги из «Терминатора» станут реальностью. Кроме того, автономная запрограммированная техника остается уязвимой для хакеров. Террористические группировки могут перехватить ее и использовать в своих корыстных целях.
Люди продолжают совершенствовать технологии ИИ, что может стать для него губительным
Тем не менее, в США активно против запрета создания ИИ-оружия. Это неудивительно, ведь в создание таких механизмов руководством страны вкладываются солидные деньги, которые могут быть потрачены зря в случае введения запрета. В других странах, таких, как Франция и Китай, тоже не собираются сворачивать разработки. Поэтому моральная сторона отодвигается на второй план.
Вызывает обеспокоенность серьезная нацеленность Китая на создание «биологических роботов» — универсальных солдат с совершенными боевыми навыками. Волнует дальнейшая способность таких ИИ-воинов решать, как им действовать и против кого воевать. Они могут обернуться против своих создателей.
Проанализировать действия ИИ механизмами сегодняшнего дня не представляется возможным. Эксперт в области робототехники компании STEM Гленн Вистринг уверен, что в ближайшем будущем сверхразумные машины будут представлять опасность. Это не случится в этом году или в ближайшие десять лет, но тенденции не вызывают радости. Специалист акцентирует внимание на том, что в конечном итоге роботы смогут самообучаться, вносить изменения в свои программы и конструкцию, добавлять детали. С таким развитием они станут сами решать, кому жить, а кому нет, какие люди нужны, а каким нет места в этом мире. Так что фантасты рискуют стать пророками будущего.
