Гримасы Министерства правды: Оруэлл, нейросети, искусственный интеллект и мигранты
Всем известен роман «1984» английского писателя Джорджа Оруэлла. Первая публикация романа датируется 1949 годом. Итак, роман живет уже 75 лет. Лишний повод поразмышлять об этом литературном произведении. Говорят, что по способности предвидеть будущее Оруэлл превзошел даже Нострадамуса, таинственного предсказателя XVI века.
Когда 40 лет назад наступил тот загадочный 1984-й год, которым назван роман, журнал «Футурист» подсчитал: из 137 пророчеств писателя к тому моменту сбылось ровно 100. Сегодня число сбывшихся пророчеств заметно увеличилось. Причем некоторые предсказания даже «перевыполнены».
Хочу остановиться лишь на одном предсказании, которое сбывается на наших глазах. Речь идет об искусственном интеллекте (ИИ).
Конечно, термин «искусственный интеллект» (artificial intelligence) в работах английского писателя не встречается. Но идея ИИ в романе «1984» витает.
Речь идет о такой функции ИИ, как создание текстов. Причем в романе речь идет не о каких-то примитивных, стандартизированных текстах (типа финансовой отчетности), а о текстах литературных. Такая, с позволения сказать, «литературная деятельность» была организована в Министерстве правды.
И к ней была причастна героиня романа по имени Джулия. Она работала «в отделе литературы на машине для сочинения романов. Работа ей нравилась — она обслуживала мощный, но капризный электромотор. Она была „неспособной“, но любила работать руками и хорошо разбиралась в технике».
В другом месте мы читаем о работе Министерства правды: «Существовала целая система отделов, занимавшихся пролетарской литературой, музыкой, драматургией и развлечениями вообще.
Здесь делались низкопробные газеты, не содержавшие ничего, кроме спорта, уголовной хроники и астрологии, забористые пятицентовые повестушки, скабрезные фильмы, чувствительные песенки, сочиняемые чисто механическим способом — на особого рода калейдоскопе, так называемом версификаторе".
Итак, машина по созданию текстов называлась «калейдоскопом», или «версификатором». В словарях иностранных слов версификатором называют человека, который легко сочиняет стихи, но лишён поэтического дара.
По-русски таких называют «рифмоплетами». Так вот, в Министерстве правды машинный рифмоплет занимался созданием примитивной продукции, предназначенной для непритязательной публики, «низов» общества (кои в Океании, где происходят события романа, составляют подавляющее большинство населения). Сегодня такую продукцию называют «массовой культурой», или «поп-культурой».
Большую часть населения Лондона составляли пролетарии (или «пролы»), которые распевали песенки, создавшиеся в недрах Министерства правды. Читаем: «Последние недели весь Лондон был помешан на этой песенке. Их в бесчисленном множестве выпускала для пролов особая секция музыкального отдела. Слова сочинялись вообще без участия человека — на аппарате под названием „версификатор“».
Конечно, аппараты для сочинения текстов были, скорее всего, чисто механическими устройствами, а не электронными (как сегодня). И героиня романа Джулия даже получила травму при обслуживании версификатора: «… девица сломала руку, поворачивая большой калейдоскоп, где „набрасывались“ сюжеты романов». Оруэлл иронично добавляет: «Обычная травма в литературном отделе». Т.е. работали над созданием текстов не столько головой, сколько руками.
В своей книге Оруэлл говорит о том, как в принципе будет организована научно-техническая деятельность в «дивном новом мире». Многие направления научно-технического прогресса вообще отомрут. Прежде всего те направления, которые в старом обществе обеспечивали производство жизненно необходимых товаров и услуг, а также замещали ручной труд машинами. А приоритетными станут те, которые создают оружие массового поражения или те, которые лишают человека свободы.
Читаем: «Поиски нового оружия продолжаются постоянно, и это одна из немногих областей, где еще может найти себе применение изобретательный или теоретический ум… технический прогресс происходит только там, где результаты его можно как-то использовать для сокращения человеческой свободы. В полезных ремеслах мир либо стоит на месте, либо движется вспять. Поля пашут конным плугом, а книги сочиняют на машинах». Вот так: в «полезных ремеслах» будет застой или даже регресс, а вот книги будут сочинять на машинах!
А теперь перенесемся в сегодняшний день. Проявления застоя и даже регресса в промышленности, сельском хозяйстве и других отраслях реального сектора экономики сегодня налицо. А научно-технический прогресс (НТП) сконцентрировался на таких немногих направлениях, как создание цифровой валюты центральных банков (CBDC), «зеленая энергетика», «альтернативное питание» (замена мяса насекомыми), генная инженерия, нейросети и искусственный интеллект.
Тема нейросетей и ИИ сегодня приоритетная. И всяческое поощрение НТП на этом направлении необходимо, как отмечено в романе «1984», для «сокращения человеческой свободы». А также для превращения человека в животное. Будущим «хозяевам мира» homo sapiens не нужен и даже опасен (может посягнуть на власть).
Дам краткий обзор того, как далеко продвинулось человечество в создании современных версификаторов, или машин для сочинения текстов. Только за последние десять лет. В декабре 2013 года специалистами Яндекс и Google после нескольких лет экспериментов по обучению машины поэзии был наконец создан сервис «Яндекс. Автопоэт». Понятно, что машинные вирши были примитивными. Но все равно качественный рывок.
В 2014 году компания Associated Press объявила, что отныне большая часть новостей, связанных с доходами компаний, будут создаваться с помощью роботов. «На протяжении долгих лет у нас уходило много времени, чтобы разобраться с цифрами о доходах компаний при подготовке статей. Однако платформа Wordsmith от компании Automated Insights позволила нам не только автоматизировать этот процесс, но и значительно увеличить производительность», — рассказал шеф-редактор Associated Press Лу Феррара.
Применение автоматизированных технологий позволило Associated Press увеличить число ежеквартальных новостей о доходах компаний с 300 до 4400. Позднее аналогичным сервисом воспользовался новостной портал Yahoo News.
В 2015 году «Яндекс» сообщил, что его роботы начали составлять заметки о погоде и ситуации на дорогах.
В мае 2016 года искусственный интеллект Google начал писать свои первые литературные произведения. В том же 2016 году журнал Forbes признался, что начал использовать роботов-журналистов, для которых компания Narrative Science создала соответствующую специализированную платформу. Кстати, один из учредителей компании Narrative Science Кристиан Хэммонд сделал сенсационный прогноз: к 2025 году 90% всех текстов в мире будет готовиться роботами.
Весной 2016 году свет увидела книга «День, когда компьютер напишет роман», составленная роботом. Между прочим, книга была представлена на литературный конкурс премии имени японского фантаста Хоси Синъити. Произведение не смогло завоевать главный приз, но сумело пройти четыре этапа отбора. Причем члены жюри не подозревали, что автором произведения является робот.
На пресс-конференции конкурса писатель-фантаст Хасэ Сатоси прокомментировал произведение робота: «Меня удивила работа искусственного интеллекта, поскольку перед нами лежит действительно хорошо структурированный роман. Однако у него все же есть ряд проблем, которые не позволили ему выиграть главный приз. Например, не до конца раскрыты персонажи. Над решением подобной проблемы разработчиками еще предстоит провести ряд исследований». Разработчики из Университета будущего Хакодате, где был создан роман, до сих пор еще не раскрыли алгоритм работы ИИ.
В 2017 году исследователи Facebook AI Research (подразделения Facebook*, занимающегося разработкой программного обеспечения для искусственного интеллекта), в начале июля представили новый подход к автоматическому написанию поэзии. Созданная система нейросетей умеет писать стихи определенного жанра и на любую тему, практически неотличимые от тех, которые мог бы написать человек. Однако Елизавета Ивтушок в статье «Искусственный Пушкин», комментируя новость от Facebook, отметила, что главная цель поэзии — передача мыслей и чувств через образные средства языка — по-прежнему остается недоступной для искусственного интеллекта.
В 2018 году Microsoft Research сообщила о том, что созданная ими система машинного перевода успешно прошла тест newstest2017, который включает в себя 2 тыс. предложений, взятых из профессионально переведенных новостных статей.
А вот новость из Китая, где уже давно используются роботы-журналисты. В середине января 2020 года суд в Шэньчжэне постановил, что статья, созданная с помощью искусственного интеллекта, защищена авторским правом. Это первый случай, когда суд защитил авторским правом текст, написанный ИИ. Прецедент был создан на базе статьи, которая была сгенерирована в китайской IT-корпорации Tencent. Она до этого уже в течение пяти лет публиковала статьи, созданные автоматизированным программным обеспечением Dreamwriter (профиль: бизнес и финансы).
В России также думают о замене поэтов и писателей роботами. Нейросеть от «Сбера» написала в 2022 году сборник рассказов под названием «Пытаясь проснуться» вместе с писателем Павлом Пепперштейном. Сборник родился в результате сотрудничества писателя и его «двойника”-робота (нейросети).
Из 24 текстов в нём только половина принадлежит Пепперштейну, ещё дюжину сочинила генеративная нейросеть ruGPT-3, «натренированная» на рассказах Павла.
Если еще в области настоящей художественной литературы роботам (нейросетям) еще трудно конкурировать с профессиональными писателями, то в конкуренции с журналистами искусственный интеллект явно одерживает победу.
В середине июня 2023 года британская «Гардиан» опубликовала статью «German tabloid Bild cuts 200 jobs and says some roles will be replaced by AI» («Немецкий таблоид Bild сокращает 200 рабочих мест и говорит, что некоторые роли будут заменены искусственным интеллектом»)
В ней сообщается, что немецкий медиахолдинг Bild объявил о программе сокращения расходов в размере 100 млн евро. Будет уволено около 200 сотрудников. Компания предупредила работников о том, что ожидает дальнейших редакционных сокращений в результате замещения журналистов искусственным интеллектом.
В феврале 2023 года генеральный директор Axel Springer SE Матиас Депфнер объявил о том, что издательство Bild станет полностью цифровой медиакорпорацией-компанией. Депфнер уверен, что такие ИИ-инструменты, как ChatGPT, могут сделать независимую журналистику лучше, чем она когда-либо была или и вовсе ее заменит.
Депфнер предсказал, что вскоре «сбор информации» будет лучше выполняться ИИ, а не журналистами.
В итоге, по мнению Депфнера, к 2030 году сохранятся только те СМИ с «живыми журналистами», которые проводят журналистские расследования или публикуют экспертные комментарии.
Компания Bild не первая новостная организация, рассматривающая возможность использования ИИ. В 2023 году медиакомпания BuzzFeed объявила, что намерена использовать ИИ для «улучшения» качества материалов. Издания Daily Mirror и Daily Express в Великобритании также изучают возможности перехода на ИИ.
Некоторые российские СМИ, оказывается, также прибегают к использованию ИИ. Например, всем известная интернет-газета «Фонтанка.ру».
Вот мнение главного редактора газеты Александра Горшкова на этот счет: «Мы тоже пробовали делать с его помощью новости, и у нас даже это получалось. Нравится это кому-то или не нравится, но технологии, прогресс остановить невозможно, поэтому в самом ближайшем будущем искусственный интеллект возьмет на себя часть функций в различных областях, в том числе медиасфере. Бот вполне справляется с написанием небольших новостных заметок справочного характера».
Правда, А. Горшков считает, что ИИ может быть лишь помощником, робот заменить талантливого живого журналиста не может: «Но никакой искусственный интеллект в обозримой перспективе не заменит ручной журналистский труд. Это журналистские расследования, это истории, которые рассказывают журналисты, это эмоции. Поэтому и искусственный интеллект, и журналистика будут существовать вместе, дополняя друг друга.
Кстати, редакторская обработка все равно потребуется: я не доверю искусственному интеллекту выпускать новости на сайт, за контент которого я несу ответственность не только перед сотнями тысяч читателей, но и перед законом. Вряд ли бот, искусственный интеллект потом пойдут за меня в суд, оплатят штраф и понесут уголовную ответственность".
Еще раз хочу вернуться к фразе из романа «1984»: «…технический прогресс происходит только там, где результаты его можно как-то использовать для сокращения человеческой свободы. В полезных ремеслах мир либо стоит на месте, либо движется вспять. Поля пашут конным плугом, а книги сочиняют на машинах».
Пока еще у нас в России книги на машинах только пытаются сочинять. Но вот цифровизацией и искусственным интеллектом во многих сферах человеческой деятельности заняты очень серьезно.
При этом, образно выражаясь, поля продолжат пахать конным плугом. Я имею в виду, что не решаются самые элементарные вопросы механизации ручного труда. Блокируется внедрение обычной техники, и на пустом месте создается проблема дефицита рабочей силы. Появляется надуманное обоснование и оправдание привлечения в страну миллионов мигрантов.
Джордж Оруэлл глубоко чувствовал будущее, предупреждая о таких вопиющих перекосах научно-технического прогресса в «дивном новом мире».