Велоллект

1. Начало

Все кому не лень написали про ChatGPT и продолжают рассказывать. Вот и я созрел сделать доклад, как слоупок. Хочу зафиксировать факты, которые узнал и осознал, поднять некоторые странненькие вопросы, поделиться мнением, поцитировать умных людей. Чую, пока пишу, информация уже протухает, устаревает, накрывается новыми фактами, размышлениями других людей или пылью. Штош.

Проблема в том, что читатели рассылки — очень разношерстная публика: некоторые глубоко в теме, некоторые только читали броские заголовки, например, как ИИ всех победит и все отберет, некоторые вообще не в курсе, о чем речь.

Поэтому я представил, что разговариваю со своей семилетней дочкой о том, что такое ИИ и ChatGPT, и почему это важно.

2. Папа, а почему тебе это важно?

Если свести наш разговор к одному вопросу, который меня на самом деле волнует, то я бы сформулировал так: как про это нечто новое думать, как разобраться в происходящей шумихе, как сделать неизвестную технологию более понятной.

Мы попали в ситуацию, когда как будто нет еще интеллектуальных щупалец, чтобы обработать проблему, подобрать слова. Как говорит младенец — «бе, бу, бэ» — так и мы сейчас. Предполагаю, когда ты не умела кататься на велосипеде, то было страшновато начинать (вдруг не получится!) и интересно одновременно (вдруг получится!). Когда умеешь кататься, то сложно представить то ощущение неумехи, которое было в самом начале, правда? Когда умеешь говорить, то уже не используешь «бе, бу, бэ».

Разница в том, что ты уже видела людей, которые умеют кататься на велосипеде. Сейчас же эта новая штука — это такой как бы знакомый велосипед — Велоллект, но которого раньше не было. Поэтому куча взрослых находятся в состоянии, когда страшновато и интересно одновременно.

По аналогии с велосипедами, кто-то говорит, что все только и будут кататься на таких Велоллектах и перестанут ходить пешком. Кто-то придумывает как приспособить Велоллекты для плавания, для приготовления завтрака или для игр в настолки. А кто-то, допустим, вообще не решил, нужен ли нам такой Велоллект — может, его вообще не существует или он вредный.

Меня не устраивают простые готовые ответы, вроде «многие потеряют работу» или «Велоллекты будут делать за нас всю рутину». Мне хочется поискать ответ, насколько глубокими будут изменения, «пронесет» ли меня и тебя — может, шумиха уляжется и любители Велоллектов подутихнут. И все будет как прежде.

3. Все будет как прежде?

Вряд ли. Например, ты родилась в мире, когда кругом компьютеры. Но так было не всегда.

В начале повсеместной компьютеризации от каждого бухгалтера начали ожидать знание работы на компьютере, а не виртуозное умение считать дебит-кредит на деревянных счётах¹.

Первый мобильный телефон я купил себе на день рождения в 2001 году, он умел звонить и светить фонариком. Сейчас мы делаем свои стикеры в телеграме и созваниваемся по видео-связи. В интернете мы можем выбрать почти любой мультик или фильм, а не ждать их показа по телеку. Компьютеры, телефоны и интернет вряд ли исчезнут, но я еще помню, как они появлялись повсеместно.

Тони Себа² говорит, что огромные перемены произойдут также в областях, связанных с энергетикой, транспортом, едой и материалами, причем перемены сильно взаимосвязаны и влияют друг на дружку. Сама возможность больших изменений открывает такие разные варианты развития будущего, что может стать страшновато. Изменения описываются графиками, похожими на букву X.

Например, так изменялась распространенность зерна — гибридного (25 лет), а затем и генно-модифицированного (20 лет). Подобным образом многие технологии были вытеснены очень быстро: видео-камеры, уголь как топливо, повозки с лошадками и пр.

Тони подмечает, что быстрее всего на новые возможности реагируют предприниматели и художники — кажется, что они обладают таким набором умений, который помогает работать с переменами. В их набор умений входят противоположности таких способов мышления: линейное, механистическое, редукционистское, разрозненное (siloed). Например, глупо считать бабочку всего лишь гусеницей с крыльями, но взрослые регулярно так делают.

Минутка для разгрузки: Билл Гейтс объясняет, что такое интернет Дэвиду Леттерману, 1995 год, видео. Не будь как Дэвид Леттерман.

4. Почему художники умеют разбираться с новыми штуками?

Почитаем художников³. Lev Pereulkov — художник, который использовал нейросети в творчестве, которого за это обвинили в плагиате. Пересказываю тред.

«Художник — это не просто холст и кисти. После того, как Марсель Дюшан взял чужой писсуар и выдал за свою работу, всё перевернулось, и контекст стал играть ключевую роль. Если автор создает жест и наполняет что-то смыслом, то это превращается в самостоятельное произведение

Художник необязательно делает все сам руками. Художники обращаются к разным материалам и направлениям, а затем их переосмысляют. Для современного искусства цитирование — часть нормальной традиции. Пародии, отсылки, глубокая переработка — называйте как хотите.

Говорят, что архитекторы не строят здание сами, а всего лишь разрабатывают идею. Очень похоже на осмысленное использование нейросетей и всяких новых штуковин. Имеет значение концепция, и только человек может придумать цель, написать запрос нейросети, дать контекст и оформить это во что-то цельное. Эта магия не работает без личности."

Давай будем считать, что художники (A) больше думают, чем рисуют, а также работают своей личностью (B). Будем считать, что художники (A) лучше других умеют разбираться с разными новыми штуками ©. Если A→B и A→С, то может B = C? Можем ли сделать вывод, что те, кто много думает и выращивает свою личность лучше приспособлены к изменениям?

5. Было ли что-то еще Большое, что подкралось незаметно?

Журналист, кандидат наук и футуролог Артем Мирошниченко⁴ (aka Артем Каждый) в 2010—2011 описывал такие феномены и понятия как «освобождение авторства», «вирусный редактор», «смерть газет».

Например, можно оценить⁵, что за всю историю цивилизации человечество выдвинуло из своих рядов 200−300 миллионов авторов, опубликовавших свои идеи для других людей. Сегодня единовременно свободный доступ к публичному авторству имеют два миллиарда человек (на тот момент), подключенных к интернету. Мгновенно, — в десять раз больше, чем за всю историю. Эффект «освобождения авторства» возникает во внезапности роста.

Такой «Вирусный редактор» подобен нейронной сети⁶. В мозге человека (грубо) 100 миллиардов нейронов, каждый из которых может иметь 15−20 степеней свободы и до 10 тысяч связей с другими нейронами. Количество возможных конфигураций системы для простоты можно назвать бесконечностью, оно намного больше количества элементарных частиц во Вселенной. В русскоговорящем вирусном редакторе (грубо) 30 миллионов юзеров, каждый из которых может иметь 5 состояний и связь с любым другим юзером. Количество возможных конфигураций намного меньше «бесконечности», но все равно намного больше количества частиц во Вселенной.

В свое время меня поразил пример практической работы «вирусного редактора»: крушение «Невского экспресса» было описано и по большому счету разгадано блогерами, оказавшимися на месте аварии, и блогерами, работавшими по профессии с поездами, материалами, рельсами, работниками МЧС и пр.

В тот раз знания и умения людей, поддержанные возможностью высказываться (публиковаться), дали феноменальный результат. Однако, знания и умения, усиленные «вирусным редактором», могут быть использованы совсем не во благо, и тоже дать результат. Технология не виновата в том, что становится доступной каждому.

6. Мы уже в будущем?

Да, и дети больше проживут в будущем, чем взрослые. Наше настоящее — ваше будущее. Как писал Ник Горькавый: «Обычный подросток не равен королю, а гораздо богаче — у него есть роскошь будущего. Любое завтра выше, чем вчера.» И от лица подростков добавил: «Будущее никому, кроме нас, молодых, не нужно. Поэтому мы заберём его себе.»

Большие изменения происходят постепенно и по инерции, происходят неравномерно и становятся заметны на каком-то промежутке времени и на какой-то выборке людей. Сейчас мы работаем с компьютерами и смартфонами. Вы будете работать с нейросетевыми инструментами. У вас пока больше времени возможностей, чтобы адаптироваться.

В этом кусочке фильма «Дело было в Пенькове» 1958 года звучит вопрос «Ну расскажите, как это будет без трактористов, без горючего?» — мы уже живем в этом будущем, а герои фильма только мечтают.

7. Скажи что-нибудь по нейросетевому?

Давай отдохнем и поиграем.

1. Поговорим о важном с Нейро Конфуцием, @neural_chat_bot.

2. Или с маленьким Кришной в сервисе Bhagavad Gita Inspired AI chatbot.

Кстати, знание английского также помогает при работе с новыми штучками.

8. Что (все еще) не умеет ИИ?

Я бы расшифровал этот вопрос:

• «не умеет», потому что пока не научился или потому что нет спроса?
• «не умеет», потому что не придумали понятный интерфейс как для обычных людей?
• «не умеет», потому что есть ограничение — технологическое, экономическое, социальное или иное?

При поиске ответов, что можно сделать вместе с ИИ, чего он еще «не умеет», можно искать так:

• от технологии — насмотреться, какие есть сервисы и готовые библиотеки, почитать про истории успеха запуска приложений с ИИ, придумать свой набор ИИ кубиков, который при сборке даст какой-то Веллолект, попробовать его «продать» как идею и оценить восстребованность
• от задачи — намечтать такой Веллолект, которого не хватает и только потом разбираться, как сделать

Мечтать сложнее.

Для меня в формулировке вопроса «Что не умеет ИИ (Веллолект)» сквозит защитная и оборонительная позиция, желание найти — хаха — что тупой ИИ не сумел сделать. И звучит надежда, что никогда не сумеет.

Хаха, ИИ не умеет шутить, пишет Макс Крайнов⁷.

Заставить собеседника смеяться кажется чем-то фундаментально человеческим: почувствовать контекст и нюансы, найти неожиданные связи и двузначности, добавить личные истории и не тараторить, как болван.

ИИ не умеет быть личностью, по крайней мере пока. В этой точке я вышел на книжку «Философские проблемы сознания»⁸ и пока остановился.

«Юмор» с помощью ИИ имеет место — фильтры, маски, модификация голоса — но контент пока все же делает человек. ИИ даже не понимает, смешно ли получается, вот тупой! Переформулирую иначе: пока без обратной связи ИИ не понимает, как манипулировать человеком — звучит уже не так ИИ-уничижительно, не правда ли.

9. ИИ умеет писать?

В дружеском чате спросили:

— Когда нейронные сети начнут (в разных форматах) производить новые знания и даже новые эмоции, что останется людям?

В дружеском чате ответили (привет, Петя):

— Мы с машинами обитаем в разных когнитивных системах координат. Концепты «знания», «эмоции» — это из мира людей. Роботы могут их вызывать в головах людей, но люди нужны для интерпретации. Каждый зритель выступает в роли художника, так как создаёт образы у себя в голове. Если люди вообще выпадут за рамки «общества» (человеко-машинного общества), то и потребность в таких сущностях как эмоция отпадёт. Но это какой-то вырожденный случай.

Например, я могу дать свои «идеи фантастического рассказа» роботу и попросить дать рассказ на 20 страниц с персонажами и любовным сюжетом. За мной останется только ключевая мысль, а вся рутина переходит роботу. Другое дело, кто найдёт время на чтение? Лучше сразу попросить робота мультик нарисовать.

Несомненно, Веллолект умеет писать. Но кто его будет читать — неужели опять человек? Телеграм-канал Roguelike Theory⁹ пишет:

«Я все еще считаю, что генерация текста — это одно из самых скучных и переоцененных применений ИИ, и не могу представить, чтобы я читал сгенерированные романы, статьи или стихи.

Может, правильный взгляд здесь был бы — принять, что в этом и есть суть человечества, мол в антропологической перспективе — повторять одни и те же сказки и анекдоты, генерировать вариации одного и того же мифа. Может, ИИ ускорит не столько какой-то типа научный или креативный прогресс, но какое-то тотальное мифологическое сгущение."

Звучит так, что люди и так читают про одно и то же, ведь существует же список 7−10 основных сюжетов, мифы Древней Греции и притчи в духовной литературе. Можно скептически считать, что если ИИ натренирован на всех письменных текстах человечества, то он и производит те же самые тексты.

Алексей Иванов и Света Шедина построили целый сезон подкаста¹⁰ на разборе проблемных ситуаций через тысячелетние мифы. Может быть, это очень человеческое — перерабатывать одно и тоже, но в разных контекстах. Один из выпусков был сгенерирован почти целиком через ИИ, фуууууу :)

Я думаю, что слова про контекст и роль художника опять возникают не спроста. Рекомбинации (взгляды из нового контекста на комбинацию старых текстов) являются ценностью, умение взглянуть как художник — ценный навык. Предоставлять новые рекомбинации может ИИ, это и есть его писательство, но кто ж оценит и применит новую рекомбинацию, как не человек.

Шок-пример от Рустама Агамалиева¹¹, который спросил ChatGPT: «Как связать работы Выготского и Гальперина?» и получил интересный осмысленный ответ, новую комбинацию. При этом, гипотеза о возможной связанности появилась в мокрых, предподготовленных мозгах Рустама, который уже знал и о Выготском, и о Гальперине.

Предлагаю эксперимент, зайти на два канала в Твиче, посмотреть как в телеке на бесконечные прямые трансляции, и описать свои впечатления:

• AtheneAIHeroes — разные знаменитости сгенерированные нейронками отвечают на вопросы такого же фейкового нейросетевого ведущего
• Nothing, Forever — телешоу, которое имитирует ситком

10. То есть, нам писать теперь не обязательно?

В статье «Конец писательства»¹² обсуждается идея о том, что искусственный интеллект (ИИ) вскоре возьмет на себя многие задачи, которые в настоящее время выполняются людьми, такие как написание электронных писем, создание презентаций и общение на работе. Это предполагает, что ИИ в конечном итоге станет настолько продвинутым, что сможет моделировать людей и их работу лучше, чем сами люди. Далее в тексте обсуждается, как это может привести к исчезновению языка, боссов, доходов и даже людей, какими мы их знаем. Он предупреждает, что даже при наличии ИИ важно думать больше, а не меньше, и помнить о важности языка в объединении нас как людей. Этот абзац суммаризирован и переведен через ИИ, упс.

Авторы пишут:

«Брифинги, встречи, заметки, предложения, табели учета рабочего времени и счета-фактуры, конечные результаты, код и обзоры кода, маркетинговые кампании и аналитика… Вся работа была симуляцией работы до того, как искусственный интеллект начал симулировать симуляцию. Время оставить симуляцию симуляций машинам. Позвольте им печатать деньги, а вы сосредоточьтесь на важных вещах. Хорошо. Но что важно сейчас?»

Действительно, что будет важно, если мы отдадим (доверим) чтение, написание, мышление и заботы компьютеру? Гипотеза такая: язык, как связь между людьми, думание и чувствование. Технический прорыв приводит к тому, что ценными становятся гуманитарные, антропологические практики. Как же так!

11. Работы больше не будет?

Авторы статьи «Конец писательства» также утверждают, что не будет больше «bullshit jobs» — работы, которую роботы сделают эффективнее.

Наташа Бабаева в рассылке «Бабаева копает инновации»¹³ в одном из писем копала про Джона Хейгеля, который пошел еще радикальнее:

«Меня часто спрашивают, какой процент рабочих мест перейдут машинам и когда. Если мы понимаем работу в классическом смысле слова, то 100%! И быстрее, чем кажется. Не роботы отбирают у людей рабочие места, а люди, занятые на стандартной-конкретной-интегрированной работе, все это время занимали рабочие места машин.»

«Работа» в новом смысле по Хейгелю — это находить проблемы и неочевидные возможности и создавать для них решения.

Короче говоря, понятие работы для будущего надо переопределить, добавив предпринимательско-предприимчивого вкуса.

Например, в книжке «Астровитянка» Ник Горькавый¹⁴ описывает ситуацию, когда люди в одном городе на Луне нужны были только как представители своих стран — по числу людей от страны распределяли места в лунном парламенте. То есть было не важно, чем они занимаются, скорее, было даже проблематичным занять их чем-то осмысленным. Их настоящая работа была в присутствии на Луне — и только. Но ведь это не работа.

Картинка иллюстрирует, как понятие порядка тоже можно переопределить.

12. Как мы доверим столько всего Велоллекту?

Анекдот. Чат-бот предупредил, что судья не должен использовать нейросеть при вынесении приговора. Возникает забавный парадокс. Если судья не будет следовать советам нейросети, это будет означать, что судья следует этому конкретному совету нейросети.

Тексты текстами, но можно ли довериться роботу-хирургу, беспилотному такси, системам принятия решений с участием ИИ и их тренировочным данным?

Доверие — это такое масло, чтобы в делах было меньше трения и задержек. Получается, каким бы хорошим ни был инструмент или человек, если к нему нет доверия, то он не будет использоваться. ИИ нужно зарабатывать и подтверждать репутацию.

Например, инициатива EthicalOS¹⁵ выделяет 8 взглядов на проект или технологию, чтобы ответить на вопросы по этике и снизить разнообразные риски: дезинформация и пропаганда; пагубные привычки и зависимость от получения удовольствия; экономическое неравенство; работа машин и алгоритмов; слежка и преследование; управление данными и монетизация; запутывание пользователей; разжигание ненависти и криминал.

Общаясь с Велоллектами, мы возвращаем им информацию, насколько Веллолект правильно или неправильно угадал, помог, вызвал эмоции. Можно ли будет использовать такую обратную связь с целью нас запутать и манипулировать нами? Я не знаю.

Хорошим вопросом тут будет узнать, кому принадлежит тот или иной ИИ, и какие цели у его владельца. Хорошей практикой — нулевое доверие¹⁶, цифровой иммунитет.

13. Появятся ли новые Велоллекты?

Конечно, появятся, ведь изменения происходят постоянно. Я бы искал ответ на другой вопрос — как быть, когда появится новый Веллолект?

Как говорит Леша «Пончик» Иванов¹⁷, для будущего важным навыком будет навык жизнестойкости, навык неваляшки.

Появление Велоллекта, как и другой новой, странной, неизвестной штуки вызывает в нас тревогу и страх. Пока мы живы и реагируем — это будет самой естественной реакцией, даже если мы себе не признаемся. Такие эмоции надо уметь обрабатывать, знать, как их проживать.

Обработав эмоции, не испугавшись своей реакции, хорошо бы суметь разобраться с этой новой штукой — какие появляются проблемы и возможности, на что новая штука похожа, можно ли с ней поиграть или надо бы поскорее убрать подальше в коробку.

Получается, что какая бы ни была новая штука, разбираться с ней предстоит нам и никому другому. А для этого хорошо бы себя знать получше, уметь поддерживать, не задалбывать, опираться на достаточно большие штуки, которые будут сильнее и важнее нового Велоллекта. И ценить свои попытки по обработке эмоций и сами попытки разобраться.

14. А ты умеешь кататься на Велоллекте?

Понимаешь, я застрял — и да, и нет.

1) Когда не умеешь (или только начинаешь) ездить на велосипеде, то представляешь, как на нем поедешь: крутишь педали, асфальт ровный, солнце светит, ветер в волосах. Зачастую так и получается — и хочется кататься и кататься. Новичок «все понимает».

2) Потом оказывается, что бывает дождь, колесо можно проколоть, а на дороге встречаются ямы. Число разных ситуаций накапливается, ты справляешься, и возникает ощущение будничности — ну, велосипед, ну и чо.

3) Если продолжать разбираться и начать понимать как устроены железки велика, как работает трение, ускорение, сила тяжести, сколько сможешь проехать в каких условиях и по каким маршрутам, какие можно делать трюки — вдохновение возвращается. Хочется кататься и кататься.

Я умею кататься, но не так, как мог бы. Нужно продолжать тренироваться и попадать на третий уровнь, так как катальщики 1 и 2 уровня будут не нужны. Но они, конечно, имеют полное право получать персональное удовольствие от катания. (Глава по мотивам мыслей Михаила Жашкова, но цитату не нашел).

15. Матчасть

Несколько ссылок и источников для взрослых.

• Александр Амзин об ИИ, рассылка
• Самат Галимов, подкаст «Запуск завтра», выпуск с Артемом Родичевым, бывшим главой AI в чат-боте Replica
• «Познавательная Минутка» от Курышева: Алексей Кинёв про природу сознания и выбора + телеграм-канал
• «What Is ChatGPT Doing … and Why Does It Work?», мегапост Стивена Вольфрама
• И всегда надо читать Михаила Калашникова, рассылка

Отдельно отмечу интервью на ютуб-канале Факультета компьютерных наук Вышки с Дмитрием Ветровым, профессором-исследователем, заведующим Центром глубинного обучения и байесовских методов ФКН: ChatGPT глазами ученого. Когда будет создан искусственный интеллект?

Интересно же, что думают ученые, а не обыватели? Так вот послушайте тезисы:

• Сейчас мы видим не те модели, которые человечество будет использовать через 3−5 лет, при этом текущие модели даже в таком сыром виде дают лучший доступный на текущий момент результат (State of the Art)
• Научный прогресс случился в том числе из-за создания журналов и конференций по ИИ с бесплатными материалами конференций. В комьюнити машинного обучения нет пейвола, а программные коды часто доступны на GitHub
• В то же время, чем ниже порог вхождения, тем больше риск, что нейросети начнут использовать бездумно. Может возникнуть привычка использовать инструменты, логики работы которых мы не понимаем
• Про ChatGPT первая мысль у меня как у ученого — да ну, это розыгрыш. То есть я верил в вероятность розыгрыша больше, чем-то, что такая технология на таком уровне развития возможна. ChatGPT — прорыв уровня столетия. Предыдущая технология такого уровня — появление интернета
• Сейчас самое время задуматься над протоколом безопасности работы ИИ. У ИИ нет намерения работать плохо — не потому, что не хочет, а просто не умеет
• Лет за 5 наша жизнь изменится радикально. У каждого будет персональный помощник. Сильно изменится стиль работы. Отмирает значительная часть домашних заданий — кто ж теперь будет писать сочинения или решать задачки
• Будут востребованы массовые низкоквалифицированные специальности, которые не автоматизируются, например, сортировщик мусора, и немногочисленные высококвалифицированные. Современный средний класс, возможно, будет размываться

Между делом Дмитрий упомянул серию книг «Астровитянка» Ника Горькавого. Я почти дочитал третью книгу серии — это невероятное удовольствие. Если из рассылки вынести единственный колл-ту-экшен, то он будет такой: подсуньте почитать «Астровитянку» доступным вам подросткам и прочитайте сами.

Кстати, с удовольствием отметил, что по-человечески выудил эту информацию из контекста, который не касался основной темы информационных сообщений в интервью.

Подскажите блоги нестрашных футурулогов? И хороши ли книжки Ян ЛеКун «Как учится машина» и Пол Доэрти, Джеймс Уилсон «Человек + машина»?

16. Ник, Пол, Михаил

«Я описал в своей книге вариант колонизации тел Солнечной системы, когда вперёд посылаются роботы с ИИ, которые способны построить базу из местных материалов и без непосредственного участия человека. И человек прилетает уже не в пустыню, а в благоустроенный город. Так что для колонизации космоса ИИ, пожалуй, будет поважнее мощных ракетных двигателей.

Конечно, искусственный интеллект вызовет всплеск школьного образования и значительное выравнивание условий для образования людей из разных слоёв. И это будет хорошо. Потому что сейчас ни в одной стране нет единого общества.

Есть богатые люди, которые уделяют школьному воспитанию своих детей огромное внимание (хорошая школа вызывает вокруг себя всплеск стоимости недвижимости — все обеспеченные хотят туда переехать), а есть бедные, которые могут дать своим детям лишь то, что могут. И есть государство, которое пытается достичь какого-то соглашения со всеми сторонами, но как только оно пытается взять у богатых побольше денег для школ бедных, то терпит крах и отступает.

И опять таки — развлечениям предается не общество, а конкретные люди (обычно бедные и необразованные), просиживающие вечера за убогим телевизором, вместо того чтобы прочитать что-то и стать кем-то. Как заставить их встать с дивана? Никак, надо спасать детей. А как вы думаете, почему я пишу именно детские и подростковые книжки?"

Как говорит Википедия, Николай Николаевич Горькавый — советский и российский астрофизик, писатель, доктор физико-математических наук. «Астровитянки» были изданы в 2008—2010. А цитата выше — из интервью на Хабре¹⁸ 2012 года.

И еще из книжки: «Стабильный прогресс человечества должен обеспечиваться ежедневным воспитанием и обучением всех людей. Каждый должен получить в своё распоряжение терпеливого учителя, внимательного собеседника и ценного советчика. Этот преподаватель-союзник будет эффективно воспитывать в людях миролюбие, интеллект, способность к мечте и давать каждому дополнительные шансы на жизненный успех и личное счастье.»

Образование детей и колонизация космоса — вот какие главные задачи есть у ИИ, сформулированные еще 10−15 лет назад. В 2023 году такие ответы звучат не как фантастика, а как план действий. Я не пойму, как среди шума (надо было) различать такие голоса, какой скилл нужно натренировать.

Я заметил, что в мире, где ИИ становится массовым, по-другому звучат древние советы для предпринимателей, которые теперь можно применить иначе. Например, эссе Пола Грэма «Делайте штуки, которые не масштабируются»¹⁹, 2013 год. Персональное отношение, человеческий сервис, доставка удовольствия, ручная работа — все это могут делать только кожаные мешки. Или могли.

Кажется, возникнет такая развилка для успеха компаний:

• массовая индивидуализация с помощью ИИ, кастомный ИИ, который может эффективно воспроизводить штуки, которые раньше нельзя было масштабировать
• отказ от ИИ и подчеркнуто «человеческий» бизнес, олдскульный и премиальный, как персональный учитель или яйцо Фаберже. Проекты без элементов ИИ вероятно не будут влиять на будущее.

В «Астровитянке» героиня «отвечала» на десятки тысяч электронных писем, каждому персонально, в целом, не зная об этом. Ее политический рейтинг шел вверх.

И чтобы пофантазировать по поводу участия ИИ в делах государства, приведу только мысль Михаила Жашкова²⁰:

Централизованные (из-за своей неподъемности) модели и новые (считанные) монополии, образующиеся за ними + государство, монополизировавшее объемы оборачиваемых денег — не могут существовать в одной вселеной рядом не вступив в полную созависимую связь. Одно просто опрокинет другое. Итогом: глобальный тоталитаризм + социализм (в рамках заранее выданного загона).

17. Что ж делать?

Вырабатывать практики

Устойчивые практики для работы с неопределенностью:

• развитие способов мышления: нелинейное, гибкое, холистическое, системное
• выращивать личность и учить английский
• разрабатывать богатый язык, как связь между людьми и передачу чувств
• тренироваться шутить и задаваться вопросами
• становиться художниками или предпринимателями

Проще сказать, чем сделать, да и советы такие универсальные. Кстати, при чем тут Веллолекты?

Читать и учиться

Если вспомнить идею, что ИИ рекомбинирует имеющееся знание, то нужно иметь свои знания, чтобы знать, что зарекомбинировать. Кажется порочным считать, что написание запросов к ChatGPT может быть «профессией», это станет обычным скиллом, как сейчас — пользоваться инстаграмом.

Формирование образа результата и знание, что хочется получить — вполне человеческая компетенция. Например, чтобы натренировать ИИ, который в ответ натренирует тебя самого.

Пройдите любой попавшийся курс по основам работы ИИ, пригодится. Пройдите курс по теории обучения для человеков, пригодится и для ИИ.

Существуют целые теории биологической эволюции, включая происхождение жизни, как многоуровневого обучения. Учиться = следовать эволюции. «Вселенная такая не просто потому, что в других нет жизни, а потому, что она учится. /// Мы можем отвечать на разные вопросы биологии, физики, социологии, политики, бизнеса — всего чего угодно — с точки зрения парадигмы: весь мир — нейросеть.»²¹

Осознавать, что оставить себе, а что предоставить ИИ

Думаю, мы будем чаще задаваться вопросами — чего я хочу, что доставляет удовольствие, чему я хочу научиться и узнать, откуда я это знаю, почему я должен доверять источнику.

«Экзамены с разрешенным использованием ИИ привели к важному итогу: ни один ученик не полагался слепо на тексты ИИ. Те, кто не умел строить аргументацию и не имел опыта, терпели поражение при работе с текстами ИИ, некритично воспринимая неверную информацию и не получая пользы от предложенных рассуждений»²². Да будет так.

Адаптироваться

Что если мы как человеки привыкли жить в парадигме ожидания апокалипсиса, конца света, перехода в лучший мир — отчасти с точки зрения освобождения от тягот жизни. Что если жить страшновато (вдруг не получится!), и интересно одновременно (вдруг получится!). Что если неизбежные перемены + страх + обучение для преодоления страха = и есть жизнь.

В книжке «Задача трех тел» Лю Цысиня возникает риск неминуемого нападения инопланетян, которые уничтожат человечество. Один из героев указывает на саранчу, которую само человечество истребляло как могло, но не преуспело, подчеркивая таким образом, что и инопланетяне могут не преуспеть. Человек чертовски адаптивен, и при всем страхе, позитивный взгляд на будущее увеличивает шансы, чтобы в этом будущем преуспеть — и развиваться из избытка, а не из нужды.

P. S.

Чтобы отправить письмо, пришлось закрыть кран поступления информации и успеть переработать то, что есть. Может, в какой-то момент надо уметь останавливаться и подумать — а что я думаю на самом деле, есть ли что сказать, готов ли я потреблять готовые выводы. В какой-то момент надо бы перестать быть вечным студентом, а стать деятелем. Предпринимать или художествовать.

Кажется, я только и делаю, что рекомбинирую мнения из разных источников, потом пуляю в читателя, чтобы провоцировать его собственные рекомбинации.

Был соблазн побольше использовать ИИ для написания поста («эй, ChatGPT, расскажи как для семилетних …»), но я выбрал путь страдания над контентом, чтобы получить удовольствие по завершении, чтобы прокачивать навык «подразобраться в теме». Как только я открывал ChatGPT, мозг отрубался, так как ждал готового ответа, чтобы скопипастить в рассылку. Ну нафиг.

Спасибо всем, кто вживую обсуждал материалы к рассылке, особенно: Александр Чернышев, Ветас Разносторонний, Петя Отоцкий.

Пишите камменты или приходите поболтать по видеосвязи.

А если вы дочитали до этого места, то обязательно подписывайтесь на мой телеграм-канал All I Know Is That I Don’t Know Nothing.

1. Пост «ChatGPT. Когда нас уже заменят нейросетями?», 29 января 2023. Тезисы: ChatGPT заменит тех, кто не научится пользоваться ChatGPT; когда много играешь с нейросетями, начинаешь сам замечать сгенерированный контент; поисковики умрут
2. Видео «The Great Transformation», часть первая (из восьми), 28 октября 2022. Запрос в поиске «Tony Seba PDF» дает массу презентаций с картинками
3. Тред в твиттере, 18 января 2023
4. Сайт Артема kazhdy.ru, давно не обновляется. Хотел бы я почитать его свежие статьи
5. Статья «Адаптация медиа. Взрывное освобождение авторства, вирусный редактор интернета и смерть газет» на «Киберленинке», 2011 год. Как мне нравится функциональность сносок!
6. Статья «Существо интернета. 12 тезисов о вирусном редакторе», 17 декабря 2010
7. Рассылка «Course Notes: Continuous Business Learning», 11 января 2023
8. Книжка «Философские проблемы сознания», 2022. Выглядит примерно как предел понимания темы
9. Пост из телеграм-канала, 19 февраля 2023
10. Подкаст «Но вы держитесь», 6 сезон. Подпишитесь
11. Пост «Аутсорсинг функции мышления», 8 марта 2023
12. Пост «The End of Writing», студия «Architect Information», 25 января 2023
13. Рассылка «Бабаева копает инновации», 2019, но читать можно и сейчас
14. "Астровитянка" — научно-фантастическая трилогия (по ссылке много спойлеров). По замыслу автора, книга призвана возродить сильно приниженный к началу XXI века образ науки и учёных и что-то противопоставить анти-интеллектуальным установкам, господствующим в современной массовой культуре
15. Ethical OS Toolkit, 2020
16. Статья «Семь мегатрендов будущего. Выбор Inc.», 27 февраля 2023. Речь про AI, метавселенные, Web3, XR, автономные системы и автоматизация доверия, IoT, кибербезопасность
17. Пост из телеграм-канала, 22 мая 2019. Подпишитесь
18. Интервью: часть 1, часть 2, 2012 год
19. Пост «Создавайте продукты, которые не масштабируются», 2013, перевод
20. Михаил Жашков в твиттере. Подпишитесь
21. Интервью с Виталием Ванчуриным, «Троицкий вариант» 5 апреля 2022
22. »Как ChatGPT используют в школах и вузах — с пользой", Skillbox Media, 1 марта 2023

✋