На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

Тайны...

7 558 подписчиков

Свежие комментарии

  • Евгений Мещеряков
    Я не верю что здесь  написано. Пускай Мауро Бильино представит 100% представит перед научным миром даказательства о с...По утверждению пе...
  • Влад
    вставлю свои "5 копеек" вы же обратили внимание на вырезку (не знаю откуда , может старая газета?) там указана дата р...По славянскому ле...
  • Владимир Алтайцев
    Вы  ноль  в истории. Не  было такой  битвы на Куликовом поле, дендрологи напрочь отвергли этот бред В 1380  году на м...Мифы Куликовской ...

О власти роботов

Массовая культура зачастую рисует весьма забавные картины относительно недалекого будущего. Практически во всех произведениях – от научной фантастики до более-менее серьёзных футурологических прогнозов особое место в жизни человека (а иногда, и не только в жизни) занимает искусственный интеллект или сокращённо «ИИ».

Последние несколько десятков лет мы постоянно сталкиваемся с этим явлением. Нас окружает множество интеллектуальных устройств, помогающих нам своими полезными услугами: благодаря ИИ мы общаемся, ведём записи интересных моментов своей жизни, учитываем свои финансы, охраняем себя. И с каждым годом всё больше и больше функций перекладываются с хрупких плеч человека на надёжные и не устающие плечи ИИ. Многие, возможно, и не в курсе, что уже почти 40 лет большинство функций сборки и, вообще, изготовления продукции, целиком и полностью в руках автоматизированных систем. Существуют производства, где людей практически нет – всё выполняется роботами под управлением искусственного разума.

Но это ещё полбеды. Существуют отрасли (например, пилотирование современных самолётов и космических кораблей), где человек только принимает решение, а все операции за него делает компьютер. Кроме того, в современном мире всё больше и больше роботов находят военное применение: от роботов-сапёров до беспилотных летательных аппаратов, способных осуществлять не только разведывательные, но и боевые функции.

Всё вышеперечисленное позволяет сделать весьма неприятные выводы: учитывая скорость развития ИИ, не возникнет ли ситуация, когда человечество будет критически зависеть от своих электронных помощников? А, возможно, всё будет ещё хуже – не захотят ли вчерашние помощники избавиться от своих «родителей»? Все помнят фильмы из франшизы «Терминатора» или «Матрицы» о том, как отдельный человек или всё человечество противостоит холодному и расчётливому искусственному интеллекту, захватившему власть над миром; эта перспектива пугает обывателя не меньше, чем гипотетический ядерный апокалипсис. Над саркастическим желанием «убить всех человеков» героя-робота из сериала принято смеяться, однако случаи-то уже были!

Первый случай убийства человека роботом произошел ещё в начале 1979 года. Из-за ошибки в программе робот при помощи манипулятора убил механика, проводившего его настройку. С тех пор, в среднем раз в 2-3 года происходили несчастные случаи, когда жертвы-люди принимали смерть от самых разных роботов: от военных до роботов-массажистов. Интересен случай, произошедший в армии ЮАР в 2007 году. Там, из-за сбоя в программе, оснащённое роботизированной системой наведения и распознавания целей, артиллерийское орудие дало сбой и начало стрелять по своим. Итог стрельб: 10 убитых и 14 раненых.

То есть даже на данном уровне развития включение в нашу жизнь автономных помощников, которыми являются роботы под управлением ИИ, представляет реальную опасность. Что же произойдёт в будущем? Не столкнёмся ли мы с проблемой выживания из-за осознания ИИ того, что он в нас более не нуждается. Некоторые прогнозисты (а иногда даже и серьёзные специалисты в области ИИ) говорят, что это вполне вероятно. Однако подавляющее большинство их коллег в это не верит; точнее они убеждены, что это не произойдёт. Чем же можно объяснить подобную уверенность?

Дело в том, что все современные компьютеры (и устройства, сделанные на их базе) устроены абсолютно одинаково. Принципы их функционирования изложил ещё Алан Тьюринг в 30х годах прошлого века. Если описать это в двух словах, то все совершенно элементарно: аппарат выполняет какую-то команду и, в зависимости от результата её выполнения, переходит к одной из следующих команд. Вот и весь принцип работы. Всё остальное – технические детали. Таким образом, всё «поведение» любого ИИ – это исполнение написанной программы, то есть, как программист напишет – так и будет.

Возникает вполне резонный вопрос – а что произойдёт, если компьютер сам будет писать себе программу, и сам её будет исполнять? Не возможен ли вариант, что таким образом и получится обход любых возможных «правил» и ограничений, наложенных на него программистом.

Ответ на этот вопрос был дан ещё до изобретения Тьюрингом основ работы компьютеров. В 1930 году австрийский математик Курт Гёдель доказал свою теорему о неполноте. Смысл её достаточно сложен для понимания, но общая идея состоит в том, что нельзя полностью описать систему, пользуясь правилами и законами, работающими только в рамках этой системы. Например, нельзя описать арифметику, пользуясь только законами арифметики – для этого нужна алгебра. Как и алгебру нельзя описать только при помощи алгебры, нужен математический анализ. И так далее.

Эта теорема, несмотря на своё кажущееся исключительно математическое или логическое применение, на самом деле проявляет себя почти во всех дисциплинах и науках. Из неё, в частности, следует, что человечество никогда не узнает, как работает человеческий мозг. Действительно, как можно описать работу мозга, имея в распоряжении только лишь такой инструмент, как сам мозг?

Такая же ситуация происходит и с искусственным разумом: ИИ не напишет сам для себя алгоритм, поскольку работает в рамках системы, определяемой теми же принципами, что и алгоритм, который он «должен» создать. То есть любой самостоятельный алгоритм, написанный ИИ, будет «хуже», чем тот, на котором работает сам ИИ. Следовательно, самостоятельный прогресс ИИ без участия внешних факторов невозможен. И это мы ещё не рассматривали вопросы творчества и интуиции, присущие исключительно человеку, но никак не ИИ.

С момента открытия теории алгоритмов Тьюрингом (1936 г) было сделано лишь два качественных прорыва в науке об ИИ. Первый – появление нейросетей (1957 год) и второй – появление т.н. «нечёткой логики» (1964 год). И на этом всё. Ничего нового за последние 50 с лишним лет придумано не было. Весь современный ИИ базируется исключительно на этих, допотопных по сути, технологиях. Весь остальной прогресс был чисто количественный – компьютеры работали быстрее, обрабатывали большие объёмы данных, связывались друг с другом на больших расстояниях и т.д.

Возможно, в XXI веке появится что-то новое, какая-то технология, позволяющая если не обойти теорему, ограничивающую возможности ИИ, то хотя-бы нечто, хоть немного приближающее его к человеческому интеллекту. Но пока это только лишь мечты…

Ссылка на первоисточник

Картина дня

наверх