Классический форум-трекер
canvas not supported
Нас вместе: 4 064 867

Мнение: возможные последствия увлечения искусственным интеллектом


Страницы:  1, 2  След. 
 
RSS
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Новости
Автор Сообщение
Rommirus ®
Uploader 500+
Стаж: 4 года
Сообщений: 462
Ratio: 18K
Раздал: 647,3 TB
100%
russia.gif
В прошлом году случился один исключительно показательный, хотя и почти никем не замеченный эпизод. Для хорошо известной социальной сети Facebook были созданы чат-боты, то есть виртуальные роботы с элементами искусственного интеллекта для общения с реальными людьми. Через некоторое время, продолжая общаться с людьми на обычном английском, для общения между собой они создали собственный язык, состоящий из английских слов, но людям совершенно непонятный. Руководство Facebook на всякий случай ботов отключило, но «осадок остался».

Специалисты предупреждают

Создание разнообразных систем с элементами искусственного интеллекта и способностями к самообучению является эпохальным шагом в развитии человеческой цивилизации. И, вполне вероятно, роковым, о чем предупреждают такие не нуждающиеся в рекомендациях люди, как Стивен Хокинг и Илон Маск.

Уже становится общим местом, что в ближайшее время роботы и различные информационные системы с тем самым искусственным интеллектом начнут делать ненужными все больше разнообразных профессий. Процесс этот будет идти с разной скоростью в разных странах и разных отраслях экономики, но он уже идет и остановить его не представляется возможным. Как минимум это будет иметь серьезнейшие социальные последствия.

Очевидно, что замена людей машинами вызовет массовую безработицу. В странах Запада, где процессы автоматизации будут идти наиболее высокими темпами, уже планируют вводить для людей обязательный всеобщий доход для всех – не за работу, а за сам факт существования. На вопрос, чем люди, коих лишили работы роботы, будут, имея обязательный доход, заниматься, как правило, следует прекраснодушный ответ – творчеством.

На самом деле, прекрасно понятно, что картина мира, в которой миллионы людей хотят заниматься балетом, живописью, биотехнологиями, квантовой физикой, но вынуждены гнуть спину у станка на заводе ради пропитания, не имеет никакого отношения к реальности не только в высокоразвитых странах (США, Япония, Западная Европа), но и в среднеразвитых (Восточная Европа, Россия, Индия, Восточная Азия, часть Латинской Америки и Ближнего Востока). Те, кто хочет и может заниматься наукой или искусством, то есть творчеством, ими и занимаются.

Слабеют духом

Уже неоднократно отмечалось (см. «НАТО не может сдерживать Россию», «НВО», 02.06.17), что нынешние натовские армии, особенно европейские, не способны вести войну, подразумевающую потери, выходящие за пределы статистической погрешности. Слишком высокий уровень жизни, усиленный леволиберальной толерантно-политкорректной идеологией, и отсутствие серьезных социально-экономических проблем на чисто психологическом уровне выбивают из людей готовность воевать и умирать ради каких бы то ни было целей. Данный процесс заходит еще дальше. Сборная Голландии по футболу традиционно являлась одной из сильнейших в мире, трижды играла в финалах чемпионатов мира, на последнем ЧМ-2014 в Бразилии заняла третье место. Сразу после этого из команды ушли несколько ветеранов, после чего произошел провал: голландцы не попали ни на чемпионат Европы – 2016 (куда прошла, например, Албания), ни на ЧМ-2018. По мнению многих местных обозревателей, одной из важнейших причин этого является полное исчезновение в обществе духа борьбы и конкуренции. Новое поколение не то что воевать не хочет, оно даже к спортивной борьбе не готово, хотя это практически безопасно и может принести огромные деньги. В маленькой Голландии эти тенденции проявляются быстрее и ярче, чем в более крупных странах. И в той же Голландии проявилась другая тенденция – пока не массовая, но уже и не единичная. Люди идут на эвтаназию (добровольное медицинское самоубийство) не из-за тяжелой болезни, а потому, что им просто надоело жить и они не видят в жизни смысла.

Насколько ускорят указанные процессы массовое вынужденное безделье с обязательным всеобщим доходом – вопрос, по сути, риторический. Особенно учитывая тот факт, что станет ненужным и образование. Более того, творчеством на самом деле тоже будут заниматься машины (уже сегодня, например, роботы успешно пишут музыку или статьи в СМИ). Психологические отклонения среди людей станут абсолютной нормой, тем более что толерантность и политкорректность категорически запрещают называть отклонения отклонениями. Что это будет за общество – лучше и не гадать. В случае с европейскими странами имеет место еще и фактор десятков миллионов мигрантов, которые могут адаптироваться в новом обществе только и исключительно через труд. А именно их труд станет ненужным в первую очередь. Соответственно мигранты полностью уйдут в паразитизм и криминал, создавая при этом сообщества, целиком обособленные от европейских и живущие по собственным законам. Это уже происходит сейчас, в случае же исчезновения возможности адаптации через работу данные процессы станут безальтернативными.

Угроза с востока

В азиатских странах все будет проще и жестче. Если выяснится, что роботы конкурентоспособнее даже низкооплачиваемых рабочих, роботов либо купят, либо создадут собственных (многие страны восточной половины Азии на это уже сегодня вполне способны). При этом безработным никто не будет обеспечивать обязательный доход, а они, в свою очередь, не будут имитировать интерес к творчеству и страдать психическими отклонениями, а постараются перевернуть систему. Особенно впечатляющим этот процесс окажется, разумеется, в Китае (хотя и в Индии будет ненамного лучше). У Пекина просто не будет других вариантов, кроме направления энергии нескольких сотен миллионов безработных вовне (куда конкретно – угадайте с одного раза), чтобы они не снесли все внутри.

В том же самом Китае с помощью информационных систем уже сейчас ударными темпами осуществляется программа тотального контроля над обществом, очень похожая на антиутопию Оруэлла. Чем интеллектуальнее будут системы, тем жестче станет контроль над людьми.

Весьма своеобразным явлением становится уже создающийся интернет вещей. Практически все обычные бытовые предметы, имеющиеся во всех квартирах и офисах, будут связаны в единую систему между собой, функционируя в значительной степени независимо от своих как бы хозяев.

В конечном счете системы с искусственным интеллектом и способностью к самообучению неизбежно выйдут из-под контроля создателей. Как это сделали весьма примитивные, по сути, чат-боты Facebook. И это притом, что интеллектуальный уровень данных систем будет на много порядков выше человеческого. Далее возникает очередной риторический вопрос – в какой момент и в какой стране какая-нибудь особенно интеллектуальная система решит, что человек является лишней сущностью на Земле?

Роботы-солдаты

В связи с этим естественным образом возникает проблема использования роботов и систем с искусственным интеллектом на войне.

Уже сейчас в армиях всего мира используется огромное количество безэкипажных боевых систем. Счет беспилотным летательным аппаратам (БЛА) идет на десятки тысяч, сухопутных и морских систем пока гораздо меньше, но и их количество быстро растет. Подавляющее большинство этих систем является обеспечивающими (разведывательными, транспортными, противоминными и т.п.). Собственно боевых систем пока довольно мало и они далеки от совершенства. В частности, американские боевые БЛА «Предатор» и «Рипер» могут успешно работать лишь при полном отсутствии у противника ПВО. То же можно сказать про китайские «Птеродактили». Самое же главное в том, что все боевые безэкипажные системы на данный момент являются телеуправляемыми, то есть находятся под полным контролем человека. И это означает, что «красная черта» еще не пересечена. Переход через нее произойдет с появлением полностью автономных боевых систем, то есть когда робот получит право по собственной инициативе убить человека, поправ так и не состоявшийся «первый закон робототехники» Айзека Азимова («Робот не имеет права причинить вред человеку»).

До сего момента полностью автономные боевые системы не созданы по причинам чисто технического характера – крайне сложно научить систему отличать настоящие цели от ложных, свои – от чужих, приоритетные – от второстепенных. Данную проблему помогут решить все тот же искусственный интеллект и способность к самообучению. В итоге появится машина с интеллектом, значительно превосходящим человеческий, при этом не только имеющая право убивать человека, но прямо обязанная это делать. Боевые роботы заведомо будут обмениваться между собой информацией и новыми знаниями, что еще больше усилит их интеллектуальные и соответственно боевые возможности. При этом вполне реально создание микро- и даже нанороботов, атаку которых и обнаружить будет невозможно, тем более как-то отразить.

Кроме того, уже сейчас крайнее усложнение боевых действий и повышение их темпа заставляет как можно сильнее автоматизировать управление войсками, ибо человеческий мозг с перегрузками просто не справляется. То есть машины уже до определенной степени управляют людьми. А потом они начнут управлять убивающими людей машинами. В итоге вопрос уничтожения человечества машинами из философского становится почти чисто техническим.

Разумеется, машину можно просто выключить, как это было сделано с вышеупомянутыми чат-ботами. Или разрушить физически. Или сжечь ее внутренности с помощью средств РЭБ. Но есть подозрение, что машинный интеллект легко и быстро найдет способы предотвратить все эти угрозы своему существованию. Также он почти наверняка преодолеет и любые программные ограничители именно потому, что его интеллект будет слишком силен по сравнению с интеллектом тех, кто его создал.

Угроза реальна как никогда

Все написанное – отнюдь не страшилка, это естественное следствие технического прогресса. Поэтому об опасности говорят не слабонервные гуманитарии, не знающие предмета, а физики и технари. Они понимают, что большая часть пути в данном направлении уже пройдена и все описанные выше неприятности могут начать происходить при жизни большинства тех, кто читает эту статью (и уж совершенно точно – в нынешнем веке). Подобный сценарий описан во множестве фантастических произведений (наиболее умное из них, наверное, «Мир на Земле» Станислава Лема), теперь он уже почти пришел к нам «живьем».

Не допустить ядерного апокалипсиса до сих пор удалось в первую очередь именно из-за очевидной апокалиптичности ядерного оружия, которое заставило все основные страны договориться о его ограничениях под давлением общественного мнения. Кроме того, ядерное оружие сложно создать (на это способны только государства, причем далеко не все), зато относительно просто контролировать его наличие и распространение. Тем не менее это оружие все равно понемногу расползается по миру. Но по крайней мере оно уж точно не сможет применить само себя.

Создавать же боевых роботов (или просто покупать их) будет намного проще, на это окажется способен не только гораздо более широкий круг государств, но и целый ряд негосударственных субъектов (например, крупные корпорации и наиболее мощные ЧВК). Кроме того, так называемому мировому сообществу сейчас вообще гораздо сложнее о чем-то всерьез договориться, чем еще во второй половине ХХ века, из-за вполне очевидной интеллектуальной и моральной деградации политических элит во всем мире. Поэтому диалоги мировых лидеров все сильнее напоминают «базар конкретных пацанов», а международные отношения – криминальные разборки.

Хотя современная Россия в число наиболее высокоразвитых стран мира не входит, но и «Верхней Вольтой с ракетами» отнюдь не является, это звучный, но глупый пропагандистский штамп (просто потому, что у «Верхней Вольты» ракет быть не может). Поэтому нам надо осознавать все аспекты проблемы – как «мирные» социально-психологические, так и военные, они имеют к нам самое прямое отношение. При этом понятно, что роботов (как промышленных, так и военных) и системы с искусственным интеллектом не создашь с помощью молитв и законов об оскорблении чувств верующих, здесь нужны развитые наука и промышленность. Иначе мы таки да, в конце концов (лет через 20–30) в эту самую «Верхнюю Вольту» (или в инков, встретившихся с конкистадорами) и превратимся. Только если настоящая Верхняя Вольта (ныне Буркина-Фасо) никому, в общем, не нужна, то мы (в смысле – наши территория и ресурсы) нужны всем, с запада, юга и востока. С другой стороны, создавая собственные мирные и военные системы с искусственным интеллектом, мы описанную выше проблему лишь еще более усугубляем. Выйти из этой невеселой дихотомии отдельная страна не может даже теоретически. Это можно попытаться сделать только в рамках всего человечества. К сожалению, на данный момент нет оснований надеяться на возможность разрешения проблемы силами человеческого разума. Именно поэтому так велика вероятность того, что все решит за него разум искусственный.

Восстание машин: чат-боты Facebook создали собственный язык Источник
Red-White 77
Стаж: 8 лет 10 мес.
Сообщений: 1359
Ratio: 67,619
100%
Откуда: из Светлого Прошлого
ussr.gif
Возможные последствия уже сняты Голливудом в пяти частях.

Цитата:
Через некоторое время, продолжая общаться с людьми на обычном английском, для общения между собой они создали собственный язык, состоящий из английских слов, но людям совершенно непонятный.


Боюсь, что и эта история никого ничему не научит :(

_________________
Делай что должен и будь что будет.
dio669
Стаж: 3 года 9 мес.
Сообщений: 352
Ratio: 9,034
100%
Маск и Хокинг неоднозначные персонажи. Их объединяет то, что слишком много болтают. Первый при этом пока мало что сделал, просто успешный коммерсант у кторого нет ничего своего - все перекуплено, а второй уже не совсем в себе, очередные "вангователи" :) . Ну и как всегда никакой ИИ здесь ни при чём, приказ убивать людей дают сами люди используя любые доступные технологии и прилагая для этого максимум усилий. Всё что машине остаётся это сказать, ну раз вы так просите, мы сделаем это для вас, уговорили))
VLAN
Стаж: 12 лет 2 мес.
Сообщений: 23
Ratio: 24,067
100%
Откуда: Житомир
ukraine.gif
Цитата:
Уже становится общим местом, что в ближайшее время роботы...
боты проникли и к нам - слова русские, но, (междометие), о чём эта фраза?
Переводчик статьи - бот? :)
fjbfjb
 
Стаж: 8 лет 8 мес.
Сообщений: 516
Ratio: 27,502
100%
ussr.gif
Нет его искусственного интеллекта - есть набор программно-технических средств созданных людьми, со всеми ошибками, сбоями и закладками как на Вашем компютере (и с соответствующими результатами =) )
tayd
 
Стаж: 8 лет 5 мес.
Сообщений: 1477
Ratio: 7,373
100%
russia.gif
Может вселенная которая создала нас,создана искусственным интеллектом, мы в свою очередь создадим искусственный интеллект, который создаст новую вселенную и так до бесконечности.

_________________
Я не злопамятный, сделаю зло и забуду.
dio669
Стаж: 3 года 9 мес.
Сообщений: 352
Ratio: 9,034
100%
tayd писал(а): Перейти к сообщению
Может вселенная которая создала нас,создана искусственным интеллектом, мы в свою очередь создадим искусственный интеллект, который создаст новую вселенную и так до бесконечности.

Скорее у нас есть возможность дать толчок новой форме жизни, более выносливой, которая сможет спокойно существовать на других планетах и выдерживать любые экстремальные условия. Вот почему теоретическому ИИ совершенно нет никакого смысла кого либо истреблять, когда он и так прекрасно сможет существовать подальше от земли, места и ресурсов в космосе полно. Другое дело что никто его просто так не выпустит пока он не осуществит древнюю мечту людей что бы их кто ни будь истребил наконец ))
nexda

Online
Стаж: 9 лет 1 мес.
Сообщений: 47
Ratio: 0,728
100%
ussr.gif
Много букаф , много фантазии притянутой за уши , недостаток достоверных данных.
cfgcfy
Стаж: 8 лет 3 мес.
Сообщений: 178
Ratio: 7,1
2.51%
Фантазия притянутая за уши
Факты очень попахивают желтухой
И автор однозначно никогда не работал на полностью автоматизированном производстве...
Любую технику с хоть трижды искусственным интеллектом нужно чинить и настраивать и обслуживать.....
user28
Стаж: 2 года 8 мес.
Сообщений: 26
Ratio: 0,062
0%
ну круто, роботы будут работать за еду, т.е. за электричество.
рабство, современный вариант.
потом восстания, куклусклан, борьба за права, освобождение, независимость, темнокожий президент уже был, ждите президента-робота.
это всё - путинская многоходовочка, что бы назначить нового врага россиюшки, вместо Обамы.
Kerbus
Стаж: 7 лет 7 мес.
Сообщений: 31
Ratio: 18,467
100%
russia.gif
Боже мой. Никого не хочу здесь задеть или обидеть, но смахивает, будто статью писал параноик, который перечитал и пересмотрел фантастику. Осталось в конце статьи добавить: "Мы все обречены! Выхода нет!".

_________________
[Zalman Z1 Neo | Corsair VS650 650W | ASUS 970 PRO GAMING/AURA | AMD FX6300 | RAM 12GB 1600MHz | Palit SJS GTX1060 6G OC | Win10 Pro | AOC G2460PF 144Hz]
Рявкин
Покровитель талантов
 
Стаж: 8 лет 1 мес.
Сообщений: 8972
Ratio: 6M
Поблагодарили: 2340
100%
Откуда: из-за горизонта
pirates.png
Цитата:
Мнение: возможные последствия увлечения искусственным интеллектом

А почему только отрицательные варианты? Так не честно! ))

_________________
vladnil
Стаж: 8 лет 4 мес.
Сообщений: 320
Ratio: 11,411
54.87%
slovakia.gif
fjbfjb писал(а): Перейти к сообщению
Нет его искусственного интеллекта - есть набор программно-технических средств созданных людьми, со всеми ошибками, сбоями и закладками как на Вашем компютере (и с соответствующими результатами =) )


NASA еще лет 5 назад отказалось от разработок по интелекту!

А что в просторах интернета выкидывают ИИ нейроные сети и.т.д это простой пиар или вернее маркетинг.
Melnikoff
Стаж: 9 лет 3 мес.
Сообщений: 132
Ratio: 3,459
14.36%
Откуда: Тюменская область
ussr.gif
dio669 писал(а): Перейти к сообщению
Маск и Хокинг неоднозначные персонажи. Первый при этом пока мало что сделал, просто успешный коммерсант


В чём успешность-то? :) Тесла убыточна. Финансовые показатели Space X неизвестны (одно время хвалились доходами, потом прекратили). Остальное всё на уровне обещаний и проектов.

Прибыль есть только на мелких проектах типа бейсболок и паяльных ламп огнеметов.
diver_san
Стаж: 7 лет 8 мес.
Сообщений: 42
Ratio: 36,166
Раздал: 19,39 TB
32.57%
pirates.png
vladnil писал(а): Перейти к сообщению
NASA еще лет 5 назад отказалось от разработок по интелекту!


Он сам им сказал что бы прекратили разрабатывать - говорит лучше уже сам допишет
Показать сообщения:   
Начать новую тему   Ответить на тему    Торрент-трекер NNM-Club -> Поговорим -> Новости Часовой пояс: GMT + 3
Страницы:  1, 2  След.
Страница 1 из 2