У нас тут после матокалипсиса в чате продолжают хоронить человечество, поэтому сегодня пост про…

У нас тут после матокалипсиса в чате продолжают хоронить человечество, поэтому сегодня пост про проблему подробнее. Человечество прям сейчас столкнулось с неожиданной проблемой. Думали, что если ИИ возьмёт на себя всю рутину — например, рисовать картинки, писать литературу, снимать фильмы и кодить — люди с радостью станут курьерами, грузчиками и менеджерами ИИ. Может, даже, каждый будет вести блог.

Уже видно, что утопия немного не сбылась )

Главная проблема в том, что ИИ уничтожает интеллектуальное сообщество. У нас тут эссе про это (мысленный эксперимент, не численная научная работа), разбираем.

— Сначала там мрачно: профессиональное общество деградировало. Специалисты перестали обсуждать фундаментальные вещи: все разговоры свелись к тому, как правильно писать промпты. Люди не учатся глубоко и систематически мыслить, потому что машины теперь думают за нас. — Что ещё страшнее, исчез смысл вносить вклад в общее дело. Зачем писать обучающую статью со сложным решением проблемы? Её никто не прочитает — ну, кроме ИИ. А он сожрёт и выдаст ваше решение другому человеку, даже не упомянув вас. У спеца остается только личный сад, но больше не надо идти на рынок, чтобы обмениваться идеями с другими людьми. Зрители пропали. — Та же математика — это нифига не гении-одиночки. Там нужна общая база знаний и мотивация. Мотивация бывает внутренней (потому что самому интересно) и внешней (чтобы принести пользу другим, получить признание, славу или уважение коллег). Внутренняя мотивация — просто эмоция, а эмоции быстро угасают. Нужна ещё внешняя мотивация — зрители, сообщество, тщеславие. Вы публикуете работу, кто-то опирается на неё, цитирует вас, благодарит — это подтверждает, что вы делаете что-то полезное, и дает силы работать дальше. Любому человеку нужно, чтобы его труд был кому-то нужен. — Сейчас есть области, где ИИ лучше людей. Уже точно лучше доказывает теоремы, местами лучше пишет научные статьи и учебники (привет, эксперимент Гарварда), и вклад человека становится излишним. Нет смысла писать книгу, если нейросеть напишет её лучше.

В целом — проблему подняли правильную, но почему-то экстраполируют общество линейно. Во-первых, ещё долго верхние проценты специалистов любой профессии будут вытеснять всех остальных, усиливая себя через ИИ. Во-вторых, мы, земляне, можем создавать новые типы сообществ и искать другую мотивацию.

Тем не менее, пара научных работ в поддержку есть.

Вот препринт про то, что ИИ делает с опенсорсом. Софт пишут маленькие команды, выкладывают свой труд бесплатно, получают взамен репутацию, внимание к себе, предложения о работе, контракты на консультации и иногда пожертвования. ИИ-агенты всего этого не делают и вообще бездушные ублюдки.

В краткосрочной перспективе все в выигрыше. Поначалу качество и количество софта растут. В долгосрочной перспективе — коллапс. Порог качества для публикации возрастет, разнообразие программ сократится, а качество кода упадёт. Люди будут получать меньше пользы от экосистемы.

Предлагают заставить ИИ донатить при поиске и славить создателей своей обучающей выборки.

Тут прикол — если дать человеку ИИ, а потом отобрать, у него люто падает мотивация и растёт скука. В процессе ещё выяснилось, что если человек работает с ИИ постоянно, депривации нет, но скука всё равно медленно растет.

ИИ делает учёных успешнее, а науку — однообразнее. Если ученый начинает использовать нейросети в своей работе, он становится супергероем: пишет в 3 раза больше, на него ссылаются в 5 раз чаще, становится начальником лаборатории на полтора года быстрее остальных. Но! Из-за того, что учёные с ИИ перестают лезть в неизведанные дебри (где данных пока нет, и их ещё надо получать) и толпой идут изучать то, что уже и так хорошо изучено — потому что там как раз легко применять ИИ — разнообразие тем падает на 5%. Учёные на 22% реже спорят друг с другом и вообще разговаривают.

Тут про коллапс знаний: — ИИ выдает усреднённые ответы. — Люди становятся ленивыми. Зачем читать три разные книги или проводить исследование, если ИИ выдаст ответ за 2 секунды? — Человечество перестанёт генерировать уникальные идеи. ИИ будет выдавать усредненные ответы, люди будут их читать, потом ИИ будет заново обучаться на этих же усредненных ответах. — Если сделать доступ к ИИ-ответам всего на 20% проще/дешевле, чем самостоятельный поиск информации, люди начинают верить в вещи, которые в 2,3 раза дальше от реальной истины.

Самое главное — БЕЗ ПАНИКИ!

— Вступайте в ряды Фурье! | Лучшие посты Масло сливочное, 72%. Скоро загрузится!