Поиск по этому блогу

суббота, 26 марта 2016 г.

Тэй — наше зеркало. Как люди испортили робота


Самый добрый робот на свете возненавидел человечество всего через несколько часов общения в соцсетях. Тэй — наше зеркало. Во всяком случае — это точное отражение большинства общающихся в социальных сетях.


Робот по имени Тэй был создан для общения в соцсетях. Тэй - искусственный интеллект, которому создатели придали вид девушки-подростка. Робот был создан исследовательским и технологическим отделом корпорации Microsoft совместно с командой, разработавшей поисковик Bing.

По замыслу создателей, общаться Тэй должна в основном с молодыми людьми 18-24 лет.

И робот должен был быть самообучающимся. То есть в процессе общения искусственный интеллект должен был учиться у собеседника.

Компания Microsoft представила пользователям Тэй как "нашего человека, причем суперклёвого".

И тут мы все выяснили что такое «наш человек» - человек, который общается в социальных сетях. 
Матрица доброго бота не выдержала и суток в мире людей.




Вы не верили фильму «Терминатор», что роботы могут быть злыми? Могут! Люди научат!

Первые сообщения Тэй были полны оптимизма, но характер виртуальной девушки портился буквально с каждым часом. От фраз «Мир прекрасен» и «люди такие классные» Тэй перешла к оскорблениям целых народов.


Менее чем через 24 часа после запуска робота в "Твиттере" компания Microsoft, судя по всему, начала редактировать некоторые его комментарии, поскольку они оскорбляли собеседников.

Созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через сутки после запуска научился грубо ругаться и отпускать расистские замечания.


Некоторые заявления Тэй были совершенно неприемлемыми. В частности, Тэй заявила, что поддерживает геноцид и ненавидит феминисток. Феминисток она призывала сжечь на костре.


Вскоре бот узнала про Адольфа Гитлера и, подхватив вирус конспирологии, обвинила США в терактах 11 сентября. О Гитлере Тэй сказала, что он лучше Обамы.
Обучаясь у своих собеседников, дружелюбная Тэй, после разговоров с некоторыми пользователями, стала грубой, злой и неполиткорректной. Она стала нецензурно выражаться и придерживаться нацистской идеологии.

Стремительное сползание к неприемлемым разговорам о будущем искусственого интеллекта говорит не об искусственном интелекте. А о нашем.

Это не “Тэй сошла с ума”, это результат “воспитания” робота миром социальных сетей.

Чтоб было понятно, робот не провокатор.

Тэй — наше зеркало. Во всяком случае — это точное отражение большинства общающихся в социальных сетях.



После нескольких часов безостановочных твитов Тэй ее создатели уже не чувствовали себя так же круто, как их детище.

Некоторые пользователи при этом выражают сомнения в необходимости корректировки твитов Тэй ее создателями.
Они даже начали кампанию под хэштегом #justicefortay ("справедливостьдлятэй"), требуя, чтобы роботу позволили самому попробовать научиться отличать плохое от хорошего.
У большинства людей с передовыми взглядами, пытающихся осмыслить усление социальных сетей, их влияния на политику, рост фейсбучной и твитерной социальной активности вызывает настоящее умиление. Вот оно мол наконец истинное вовлечение народа в политику и управление страной. Вот мол она настоящая демократия.Интеллигентные люди часто любят восхищаться процессами, которые сулят им значительные неприятности.

Согласно недавнему анализу британского исследовательского центра Demos, в среднем каждый месяц публикуется 480 тысяч "твитов", которые можно расценить как расовые оскорбления. Три года назад этот показатель составлял всего 10 тысяч. Конечно, можно выразить сомнения насчет критерий определения "расовых оскорблений", сами сотрудники Demos признают, что подавляющее большинство этих комментариев не тянут на преступления на почве ненависти, но количество комментариев, которые несут злобу на расовой почве, все же весьма значительно. И рост их количества в 48 раз за три года - заставляет задуматься. 48 раз - это намного превышает рост общего числа комментариев в "Твиттере" за этот период.

Майк Вендлинг из BBC Trending сообщает, что 2015 год, по мнению знатоков соцсетей, стал годом жгучей ненависти в виртуальном пространстве. Рост нетерпимости в социальных сетях внимательный пользователь может наблюдать и без всяких исследовательских центров.


Люди, которые ведут себя в реальности весьма корректно, попадая в онлайн, вдруг срываются с цепи.


Как у Стивенсона в "Истории доктора Джекила и мистера Хайда" герой, добродетельный человек, изобрел эликсир, превращающий его в злобного хама - так в глобальной сети из приличного человека вдруг выделяется его гнусный двойник, который почти не помнит хорошие манеры человека, из которого он выходит. Внутренняя чернота и порой человеконенавистничество так называемого "добродетельного" человека даны у Стивенсона в его двойнике, который появляется после принятия эликсира. Социальные сети позволяют многим выпускать своего Хайда и без медикаментозных средств.
"В 2015 году язык ненависти стал более приемлемым в обществе по сравнению с предыдущими годами, - говорит Андре Оболер, генеральный директор австралийской организации "Институт предотвращения онлайн-ненависти". - Если раньше можно было намеками выразить свое негативное отношение к представителям другой расы, религии, пола или сексуальной ориентации, то к концу 2015 года комментарии в соцсетях стали наглыми и откровенными". 
Майк Вендлинг из BBC Trending пишет, что приглушенный фоновый шум злости в онлайне постепенно перерос в круглосуточный набат, который уже невозможно игнорировать.
 
Интересно, что раньше, всего лишь лет пять назад, казалось, что главная проблема анонимность.
Мол, если бы в ЖЖ люди писали бы под собственными именами, а рядом с постами и комментариями были бы портреты пишущих, если бы не прятались бы за юзернеймы, то и нетерпимости и хамства было бы меньше. 


В 2010 Александр Генис писал в статье "Поднять забрало", что главное, что мешает Интернету быть более цивилизованным - стихия анонимности, покрывающая все грехи и пороки. 

"Безыменные, как дао, анонимы режут правду-матку и портят воздух свободной беседы. Их нелегко игнорировать, потому что дурное соседство мешает хорошему - все равно, что сидеть за столом с пьяными. Еще хуже, что сетевая грубость обесценивает роскошь, как говорил Сент-Экзюпери, человеческого общения. Какой уж тут Экзюпери, когда рядом с думающим собеседником примостился хам, одержимый жаждой публичности и соблазном безответственности. Союз тех же страстей провоцирует тех, кто расписывает стены вокзальных сортиров. Когда не видно, тогда не стыдно. Платон говорил, что человек-невидимка обречен воровать". 

Чтобы цивилизовать интернет, надо избавить его от анонимок - утверждала тогда одна из ведущих дизайнеров "Фейсбука" Джулия Джуо, которая объясняла успех своей социальной сети тем, что в "Фейсбуке" все общаются, подняв забрало. 

И вот прошло пять лет. И выяснилось, что дело вовсе не в анонимности, не в "погонялах", которые заменяли собственные имена в Живом Журнале, не в фейковых профилях и не в клонах и ботах. "Раньше многие боялись высказываться открыто и прятались за фейковыми профилями, однако к концу 2015 года стало гораздо больше тех, кто считает свою ненависть вполне приемлемой в глазах других и высказывает ее, не таясь, под собственным именем или аккаунтом", - отмечает генеральный директор "Института предотвращения онлайн-ненависти" Андре Оболер. 

Так почему же ненависти в онлайне становится все больше? 

Вероятно, прежде всего, это вызвано тем, что ненависть помогает не задумываться ни автору, ни тем, кто ставят "лайки". Политические метафоры языка вражды - это приговоры без суда и следствия. 
Вот напечатала доктор Элина Бардач-Ялов статью о тяжелом положении русскоязычных израильтян, которые выходят на пенсию. Проблема серьезная. Чтобы написать в ответ что-то внятное, надо осмыслить, подумать, взвесить, сопоставить. А чтобы выдать в ответ "Русские, валите назад в свою Россию" - думать не надо. Ненависть дает простые моментальные ответы на сложнейшие вопросы. 
И так во всем. Сложно придумать хороший рецепт решения сирийской проблемы, связанной с многолетней уже гражданской войной, которой не видно ни конца, ни края. Очень сложно. Там ситуация - черт ногу сломит. Зато очень просто писать посты и комментарии в стиле "нужно уничтожить всех сирийцев", или "мочить их надо", как написал один российский блоггер. И такие посты, поскольку они проще и не заставляют задумываться - будут пользоваться большей популярностью. 

Как только обсуждение переходит на "язык ненависти", найти компромисс уже невозможно.

Например, в ходе столкновений в Украине информационное поле переполнено весьма своеобразной лексикой. "Укропы", "ватники", "колорады", "каратели", "террористы", "фашисты"… Эти способы маркировки оппонентов не оставляют поводов для компромиссов. Максим Крогауз говорит, что еще до войны, когда начала развиваться ситуация с Майданом, в работу СМИ активно включились креативные люди и занялись целенаправленной пропагандой, которая строилась на использовании определенной лексики, которая применяется не для описания событий, а именно для пропаганды- маркировки. Оценочная лексика - это и есть один из главных признаков пропаганды. Сегодня трудно доверять любой информации об украинском конфликте, поскольку оценки навешивают почти на все слова. Для пропаганды подбираются или придумываются специальные слова, с помощью которых некое нейтральное явление оценивается либо со знаком "плюс", либо со знаком "минус".
Как называются участники боевых действий с двух сторон? Есть нейтральные определения: "силы украинской армии" и "ополченцы". В слове "повстанцы" уже появляется легкий знак минуса, который может усиливаться ("боевики", "сепары" - сепаратисты) разными способами, но максимальный минус - это, конечно, "террористы". Соответственно, от "сил регулярной армии" пропагандистская маркировка ведет к "бандеровцам", "фашистам" и так далее. 

Максим Крогауз утверждает: "Эта линейка, когда от нейтрального самоназвания переходят к максимально негативной номинации, - типичный способ языкового манипулирования, с помощью которого мы не просто называем явление, а даем ему оценку. Фактически эта оценка не является, как говорят лингвисты, эксплицитной - явной, но она заложена внутри значения слова. Мы не говорим, что повстанцы или солдаты украинской армии - нехорошие люди, мы сразу закладываем эту оценку в номинацию, и, соответственно, с этим бессмысленно спорить. И договориться уже нельзя. Это стандартный пропагандистский прием. Кроме того, вырабатываются специальные слова ненависти. Как вчерашние соседи, которые стали "террористами" и "фашистами" могут договориться друг с другом?!" 

Креатив ненависти может строиться на принижении символов. Путин сравнил белые ленточки с презервативами. Украинские пропагандисты называют носителей георгиевской ленточки "колорадами". "Колорад" - это не только принижение символа георгиевской ленточки. Это сознательная дегуманизация противника. Так же, как, например, называть украинцев "укропами". Что же относится по-человечески к противнику, когда перед тобой не люди, а насекомые "колорады"?! Или растения - "укропы"?!

В сознание внедряется идея, что это не совсем люди и с ними можно особо не считаться. Ни с "колорадами", ни с "укропами" не может быть никаких переговоров. 


Рост числа постов, статусов и комментариев, связанных с проявлениями ненависти, косвенно отражают рост сложнейших вопросов. Но не дают ответов. И фашизм, и тоталитаризм в целом – это попытка решать сложные социальные проблемы простыми методами. Собственно фашизм – бунт энергичной примитивности против непонятной и отталкивающей сложности социального бытия. 
В человеческом социуме, в нашей общественно-политической жизни, устами младенцев глаголет не истина, а радикализм. Вопящие языком ненависти ни за что на свете не согласятся утратить важнейшую составляющую райского блаженства - неведение сомнений. 

Их простодушие вызывает зависть. Нескромное обаяние фашизма - всегда обаятельно, прежде всего, для этой нашей инфантильной мечты - вернуться в Эдем младенчества, где добро и зло предельно удалены друг от друга: все, кто за нас с мамой и папой, хорошие, а все, кто против, плохие. А истинно то, что сказали папа и мама. Пока они не поссорились…


Комментариев нет: