Компания OpenAI, которую несколько годов назад основал Илон Маск, в июне выпустила новейший метод нейросети GPT-3. На сей день это самая совершенная система, которая умеет работать с естественными языками.
Ее способности просто колоссальны. При помощи GPT-3 можно создавать хоть какой тип текстовой инфы, в том числе и сложные технические тексты. Например, когда нейросети дали задачку написать текст о для себя, она сделала статью с звучным заглавием «GPT-3 от OpenAI может стать величайшим открытием опосля Bitcoin».
Но может ли нейросеть не попросту составлять слова, подражая человеку, а по сути создавать тексты со смыслом? Стихи, повести либо даже романы, которые будет любопытно читать? Давайте разберемся.
GPT-3: метод нейросети, который на порядок опережает все имеющиеся
GPT-3 — это самая непростая языковая модель, когда-либо сделанная человеком.
Она работает с вероятностью возникновения определенной последовательности слов. GPT-3 от наиболее ранешних моделей различают масштабы.
При генерации текста она употребляет 175 млрд характеристик, а учили ее на наиболее чем 1,5 триллионах слов. При этом, тексты для занятий использовались самые различные: от постов на форумах до традиционной литературы.
Система пробует предсказать текст, исходя из более возможных текстовых блоков. Юзеру необходимо лишь задать какую-нибудь точку отсчета, от которой нейросеть будет отталкиваться.
Чем лучше система осознает контекст запроса, тем поточнее будет ответ.
Складывается воспоминание, что нейросеть реально может осознавать естественные языки.
Шариф Шамим (Sharif Shameem), сооснователь и СЕО проекта Debuild.co опубликовал в собственном твиттер-аккаунте результаты тестирования различных способностей нейросети. И они вправду впечатляют.
This is mind blowing.
With GPT-3, I built a layout generator where you just describe any layout you want, and it generates the JSX code for you.
W H A T pic.twitter.com/w8JkrZO4lk
— Sharif Shameem (@sharifshameem) July 13, 2020
В видео видно, что Шариф писал в строчку ввода обычный текст, как как будто разъяснял дизайнеру либо разрабу, что ему необходимо. А система интерпретировала его и выдала итог.
В особенности позабавила «клавиша, схожая на арбуз».
Но раз нейросеть так отлично осознает естественный язык, то может ли она писать тексты так, как это сделал бы человек?
Ответ: может.
Копирайтер vs. Нейросеть: опыты в СМИ и блогах
Тексты от нейросети фактически не различаются от человечьих. Лиам Порр, студент из Беркли, провел опыт и две недельки публиковал статьи, сгенерированные GPT-3, в собственном блоге на Adolos.
Мотивационные статейки от нейросети прочитало 26 000 людей. И, как гласит Лиам, лишь один из их додумался, что тексты по сути писал не человек, а машинка. Но даже этот коммент заминусовали остальные читатели:
Если вчитаться в сами статьи, складывается воспоминание, что они реально написаны каким-либо мотивационным тренером либо коучем. Пригодный стиль и фразы, адекватная структура текста. Время от времени предложения либо отдельные фразы кажутся не очень естественными, но это не выдает машинку. Ведь подобные незначимые ошибки допускает и человек.
Это одна из обстоятельств, почему GPT-3 не выпускают в открытый доступ. Чтоб получить доступ к OpenAI API, необходимо заполнить заявку с указанием, для что конкретно вы планируете употреблять нейросеть.
Еще на шаге сотворения GPT-2, предшествующей версии метода, создатели сообразили потенциальную опасность, ведь система может стать инвентарем информационной войны. Схожая нейросеть способна генерировать фейковые анонсы с страшенной скоростью. Если употреблять ее способности в ущерб, веб будет просто погребен под неправдивым контентом.
Конкретно потому в дальнейшем ее планируют продавать бизнесу по подписке. Но не многим попорядку, а лишь тем, кто обоснует, что они планируют употреблять ее «в мирных целях».
Нейросеть, художественные книжки и стихи
Нейросеть полностью может конкурировать с создателями новостей в СМИ либо технических статей, но процесс сотворения романов либо стихов намного труднее. Даже базисные принципы написания художественных текстов различается от технических. Обучить нейросеть подбирать рифмы и смотреть за ритмикой можно без заморочек, но с многосмысленностью у машин пока бяда.
Есть российская нейросеть «Порфирьевич», основанная на методе GTP-2. Она «понимает» российский и натренирована не только лишь на прозе, да и на стихах. Проверить работу можно в Телеграм-боте «Нейропоэт». Необходимо лишь написать первую строчку либо несколько, а остальное сделает система. Мы проверили, вышло так для себя.
Первую строчку Пушкина нейросеть превратила в безрассудный набор текста, в каком угадываются военные мотивы. И если отдельные образы можно считать успешными («Дуб просит хлеба у весны» либо «Осенние цветочки весны»), то остальные же вызывают фейспалм.
Можно провести аналогию с теорией о нескончаемых мортышках, которые нажимая случайные клавиши на пишущей машине в течение неопределенно долгого отрезка времени рано либо поздно напишут «Войну и мир».
Нейросеть тут выступает в качестве таковой мортышки, которая заместо отдельных букв составляет слова и образы, но они в собственном большинстве получаются случайными.
По сути почти все создатели делали генераторы стихов на базе GPT-2. Вот, например, вариант генератора текста песен на британском, который употребляет облегченную базу из 13 000 стихов.
Сгенерировал он тоже что-то не очень вразумительное:
Что касается художественных книжек, то ситуация еще ужаснее. Этого стоило ждать, ведь нейросеть не умеет строить сюжет и не понимает, что такое завязка либо кульминация. Но вот из неких тестов выходит так отборная дичь, что остается лишь удивляться.
Как для вас что-то вроде порно-фанфика по Библии? Неведомые создатели выложили сочинение под заглавием «The Orange Erotic Bible». Его сделала нейросеть на базе такого же GPT-2, но вот учили ее на эротических романах и рассказах, а потом в качестве отправной точки для генерации дали отрывки из Библии. Рассказ вышел огромным — выше 60 000 слов. И итог мягко говоря поражает.
Вот маленькая часть из рассказа. И нет, мы не будем это переводить.
Существует даже интернет-магазин книжек, написанных ИИ. Смотрится он достаточно страшно. Поэтому что обложки книжек тоже сделаны машинкой.
Правда, его создатели признались, что продали лишь 19 копий книжек. Если их свойство хотя бы приблизительно припоминает «Оранжевую Библию», то мы совсем не удивлены. Писатели пока что могут спать тихо.
Либо нет?
Все прошлые примеры касались лишь GPT-2, и они были так для себя.
Но уже существует нейросеть-поэт, основанная на методе GPT-3. И она указывает достаточно достойные внимания результаты.
Нейросеть может писать стихи в данном стиле и на заданную тему. Аррам Сабети (Arram Sabeti), CEO проекта ZeroCater, уже провел опыт.Он сформировывал запросы нейросети с запросом на тему стиха и стиль. Все другое делала машинка.
Вот один из запросов:
Here’s a poem by Dr. Seuss about Elon Musk launching rockets with SpaceX, building electric cars at Tesla, selling flame throwers, dating Grimes, fighting the SEC, crushing short sellers, building brain chips to fight AI, and colonizing mars, and tweeting at all hours of day and night. Musk wants to make humans interplanetary to prevent extinction. The poem rhymes every other line with an ABAB structure. The rhyme structure is typical of Dr. Seuss nursery rhymes.
Стих вышел занимательным. Правда. Невзирая на тривиальные некорректности в ритмике и косяки с рифмами, он имеет смысл. Он длиннющий, потому мы приведем тут лишь часть.
Elon Musk
By Dr. Seuss
Once there was a man
who really was a Musk.
He liked to build robots
and rocket ships and such.
He said, “I’m building a car
that’s electric and cool.
I’ll bet it outsells those
Gasoline-burning clunkers soon!”
They sell cool cars
that are electric and clean.
And then he wanted to go
even farther, you see.
The first Tesla, Roadster,
Was just the start of a bigger dream.
He said, “I’m building a plane
that’s electric and green”.
Прогресс по сопоставлению с предшествующей версией метода просто изумителен. Это не набор несвязных фраз, а полностью для себя хорошее по структуре стихотворение. Да, до эталона еще далековато, рифмы слабоваты, ну и ритмика хромает, но уже на этом шаге очень удивляешься, что это выдумала машинка.
Некие образы и словосочетания просто великолепны. Например, «gasoline-burning clunkers» — «бензиновые драндулеты». Если не знать, что это написала машинка, то можно поразмыслить, что это творение какого-либо школьника, который решил написать стихотворение про собственного кумира.
И, черт возьми, это круто.
Полную версию стиха и остальные творения нейросети сможете прочесть тут.
***
Тестов с GPT-3 в плане написания стихов либо художественных историй пока достаточно не достаточно, так что приходится наслаждаться лишь сиим. Но если нейросеть так продвинулась в разработке осмысленных текстов, то полностью реально, что скоро она сумеет писать и полностью читабельные художественные произведения.
Может быть, это будет не GPT-3, а какой-либо GPT-4 либо даже GPT-5, но динамика развития очевидно есть. На данный момент нейросеть может писать технические статьи, анонсы, маленькие истории либо стихи.
А с предстоящим развитием алгоритмов свойство генерируемых текстов будет лишь расти. Так что да, ИИ может писать как человек. Пока что на уровне школьника, но поглядим, как будет через лет 10-20. А вы как думаете?
Создатель: EnglishDom