Сергей Е предлагает Вам запомнить сайт «Тайны...»
Вы хотите запомнить сайт «Тайны...»?
Да Нет
×
Прогноз погоды

О сколько нам открытий чудных готовит просвещенья дух и опыт, сын ошибок трудных, и гений, парадоксов друг, и случай, бог изобретатель. А. С. Пушкин

Блог
Михаил Врубель: тайна демонов небожителя
Татьяна Ларина 11 дек, 04:58
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
11 загадочных фотографий
Сергей Е 11 дек, 04:48
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Пирамиды Келлера
Сергей Е 11 дек, 04:46
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Расхитители гробниц. Месть мира мертвых
Сергей Е 11 дек, 04:45
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
В США появился самый маленький теленок
Сергей Е 11 дек, 04:34
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Виктор из Аверона. История м…

Виктор из Аверона. История мальчика-маугли

10 дек, 05:04
+1 1
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Реальные истории, которые до…

Реальные истории, которые доказывают, что мы переместились в параллельную Вселенную

10 дек, 17:40
+9 14
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Древние знания. Числа

Древние знания. Числа

10 дек, 17:38
0 1
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Несколько самолетов сообщили…

Несколько самолетов сообщили об НЛО над Ирландией

10 дек, 17:35
+1 2
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

О власти роботов

развернуть

О власти роботов

Массовая культура зачастую рисует весьма забавные картины относительно недалекого будущего. Практически во всех произведениях – от научной фантастики до более-менее серьёзных футурологических прогнозов особое место в жизни человека (а иногда, и не только в жизни) занимает искусственный интеллект или сокращённо «ИИ».

Последние несколько десятков лет мы постоянно сталкиваемся с этим явлением. Нас окружает множество интеллектуальных устройств, помогающих нам своими полезными услугами: благодаря ИИ мы общаемся, ведём записи интересных моментов своей жизни, учитываем свои финансы, охраняем себя. И с каждым годом всё больше и больше функций перекладываются с хрупких плеч человека на надёжные и не устающие плечи ИИ. Многие, возможно, и не в курсе, что уже почти 40 лет большинство функций сборки и, вообще, изготовления продукции, целиком и полностью в руках автоматизированных систем. Существуют производства, где людей практически нет – всё выполняется роботами под управлением искусственного разума.

Но это ещё полбеды. Существуют отрасли (например, пилотирование современных самолётов и космических кораблей), где человек только принимает решение, а все операции за него делает компьютер. Кроме того, в современном мире всё больше и больше роботов находят военное применение: от роботов-сапёров до беспилотных летательных аппаратов, способных осуществлять не только разведывательные, но и боевые функции.

Всё вышеперечисленное позволяет сделать весьма неприятные выводы: учитывая скорость развития ИИ, не возникнет ли ситуация, когда человечество будет критически зависеть от своих электронных помощников? А, возможно, всё будет ещё хуже – не захотят ли вчерашние помощники избавиться от своих «родителей»? Все помнят фильмы из франшизы «Терминатора» или «Матрицы» о том, как отдельный человек или всё человечество противостоит холодному и расчётливому искусственному интеллекту, захватившему власть над миром; эта перспектива пугает обывателя не меньше, чем гипотетический ядерный апокалипсис. Над саркастическим желанием «убить всех человеков» героя-робота из сериала принято смеяться, однако случаи-то уже были!

Первый случай убийства человека роботом произошел ещё в начале 1979 года. Из-за ошибки в программе робот при помощи манипулятора убил механика, проводившего его настройку. С тех пор, в среднем раз в 2-3 года происходили несчастные случаи, когда жертвы-люди принимали смерть от самых разных роботов: от военных до роботов-массажистов. Интересен случай, произошедший в армии ЮАР в 2007 году. Там, из-за сбоя в программе, оснащённое роботизированной системой наведения и распознавания целей, артиллерийское орудие дало сбой и начало стрелять по своим. Итог стрельб: 10 убитых и 14 раненых.

То есть даже на данном уровне развития включение в нашу жизнь автономных помощников, которыми являются роботы под управлением ИИ, представляет реальную опасность. Что же произойдёт в будущем? Не столкнёмся ли мы с проблемой выживания из-за осознания ИИ того, что он в нас более не нуждается. Некоторые прогнозисты (а иногда даже и серьёзные специалисты в области ИИ) говорят, что это вполне вероятно. Однако подавляющее большинство их коллег в это не верит; точнее они убеждены, что это не произойдёт. Чем же можно объяснить подобную уверенность?

Дело в том, что все современные компьютеры (и устройства, сделанные на их базе) устроены абсолютно одинаково. Принципы их функционирования изложил ещё Алан Тьюринг в 30х годах прошлого века. Если описать это в двух словах, то все совершенно элементарно: аппарат выполняет какую-то команду и, в зависимости от результата её выполнения, переходит к одной из следующих команд. Вот и весь принцип работы. Всё остальное – технические детали. Таким образом, всё «поведение» любого ИИ – это исполнение написанной программы, то есть, как программист напишет – так и будет.

Возникает вполне резонный вопрос – а что произойдёт, если компьютер сам будет писать себе программу, и сам её будет исполнять? Не возможен ли вариант, что таким образом и получится обход любых возможных «правил» и ограничений, наложенных на него программистом.

Ответ на этот вопрос был дан ещё до изобретения Тьюрингом основ работы компьютеров. В 1930 году австрийский математик Курт Гёдель доказал свою теорему о неполноте. Смысл её достаточно сложен для понимания, но общая идея состоит в том, что нельзя полностью описать систему, пользуясь правилами и законами, работающими только в рамках этой системы. Например, нельзя описать арифметику, пользуясь только законами арифметики – для этого нужна алгебра. Как и алгебру нельзя описать только при помощи алгебры, нужен математический анализ. И так далее.

Эта теорема, несмотря на своё кажущееся исключительно математическое или логическое применение, на самом деле проявляет себя почти во всех дисциплинах и науках. Из неё, в частности, следует, что человечество никогда не узнает, как работает человеческий мозг. Действительно, как можно описать работу мозга, имея в распоряжении только лишь такой инструмент, как сам мозг?

Такая же ситуация происходит и с искусственным разумом: ИИ не напишет сам для себя алгоритм, поскольку работает в рамках системы, определяемой теми же принципами, что и алгоритм, который он «должен» создать. То есть любой самостоятельный алгоритм, написанный ИИ, будет «хуже», чем тот, на котором работает сам ИИ. Следовательно, самостоятельный прогресс ИИ без участия внешних факторов невозможен. И это мы ещё не рассматривали вопросы творчества и интуиции, присущие исключительно человеку, но никак не ИИ.

С момента открытия теории алгоритмов Тьюрингом (1936 г) было сделано лишь два качественных прорыва в науке об ИИ. Первый – появление нейросетей (1957 год) и второй – появление т.н. «нечёткой логики» (1964 год). И на этом всё. Ничего нового за последние 50 с лишним лет придумано не было. Весь современный ИИ базируется исключительно на этих, допотопных по сути, технологиях. Весь остальной прогресс был чисто количественный – компьютеры работали быстрее, обрабатывали большие объёмы данных, связывались друг с другом на больших расстояниях и т.д.

Возможно, в XXI веке появится что-то новое, какая-то технология, позволяющая если не обойти теорему, ограничивающую возможности ИИ, то хотя-бы нечто, хоть немного приближающее его к человеческому интеллекту. Но пока это только лишь мечты…


Источник →

Опубликовал Сергей Е , 10.08.2017 в 17:42
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Комментарии

Показать предыдущие комментарии (показано %s из %s)
Показать новые комментарии
Михаил Врубель: тайна демоно…

Михаил Врубель: тайна демонов небожителя

11 дек, 04:58
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
11 загадочных фотографий

11 загадочных фотографий

11 дек, 04:48
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Пирамиды Келлера

Пирамиды Келлера

11 дек, 04:46
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Расхитители гробниц. Месть м…

Расхитители гробниц. Месть мира мертвых

11 дек, 04:45
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
В США появился самый маленьк…

В США появился самый маленький теленок

11 дек, 04:34
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Реальные истории, которые до…

Реальные истории, которые доказывают, что мы переместились в параллельную Вселенную

10 дек, 17:40
+9 14
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Поиск по блогу

Люди

6070 пользователям нравится сайт tainav.mirtesen.ru

Блог
Михаил Врубель: тайна демонов небожителя
Татьяна Ларина 11 дек, 04:58
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
11 загадочных фотографий
Сергей Е 11 дек, 04:48
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Пирамиды Келлера
Сергей Е 11 дек, 04:46
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Последние комментарии

marija bogoslovskaja (рябова)
ГОСПОДИ, какие сложные судьбы!
Береги деточек БОГ!
marija bogoslovskaja (ря… Виктор из Аверона. История мальчика-маугли
Konstantin Петров
Alexander Bocharov
Fuad Nuriyev
)))
Fuad Nuriyev Древние знания. Числа
Alexander Bocharov

О сайте

Сейчас онлайн

  • любовь сычева
  • Евгений Домашнев
  • николай ребров
  • Петр Беспалов
  • Виктор Петрушин
  • Михаил Заруцкий
  • Лариса Волкова
  • Марина Тактарова
  • Sergey Gagloev
  • Роман Тогидний
  • Нурлан Муканов
  • Иван Белов
  • Владимир Махунов
  • Евгения Лебедева
  • Таня Гузнова