Сверхбыстрая эволюция искусственного интеллекта: от инструмента для выполнения задач до агента оценки… и, потенциально, лидера
Искусственный интеллект (ИИ) стремительно и непрерывно развивается, переходя от простого инструмента для выполнения задач к агенту оценки… и, возможно, лидеру. По мере того как системы ИИ начинают осваивать сложное логическое мышление, мы должны задаться глубоким вопросом: каков следующий шаг? Здесь я исследую провокационную возможность ИИ в качестве лидера, то есть менеджера, координатора, генерального директора или даже главы государства. Давайте обсудим огромный потенциал утопического гиперэффективного, основанного на данных, непредвзятого общества, одновременно оценивая присущие опасности алгоритмической предвзятости, неконтролируемого наблюдения и эрозии человеческой ответственности. Затем возникает более сбалансированная система, в которой ИИ проводит мозговые штурмы с децентрализованным человеческим управлением для максимального балансирования прогресса с осторожностью.
ИИ в лаборатории: новая научная революция
Если вы следите за мной, вы знаете, что я из академического мира, точнее, из мира, вращающегося вокруг молекулярной биологии, которая делается как с помощью компьютеров, так и в лабораторных условиях. Поэтому я воочию наблюдаю, как академический мир ощущает на себе влияние ИИ и автоматизации. Я был там в качестве эксперта CASP, когда DeepMind представила свои модели AlphaFold. Я был там, чтобы увидеть революцию в области предсказания структуры белков, которая распространилась и на дизайн белков (см. мой комментарий о присуждении Нобелевской премии в журнале Nature Communications Biology).
Новые стартапы предлагают автоматизированные лаборатории (если честно, всё ещё во многом зависящие от экспертов-людей) для тестирования новых молекул в масштабе, даже позволяя проводить соревнования среди разработчиков белков — большинство из них основано на той или иной системе ИИ для молекул. Я сам использую возможности ИИ для обобщения, мозгового штурма, получения и обработки информации, кодирования и многого другого.
Я также слежу за рейтинговыми таблицами и поражаюсь постоянно улучшающимся возможностям логического мышления, мультимодальным системам ИИ и всему новому, что появляется, многое из чего применимо для планирования проектов, их выполнения и, возможно, даже управления — последнее является ключом к обсуждению, которое я здесь представляю.
В качестве конкретного, совсем недавнего примера, на конференции под названием Agents4Science 2025 будут представлены статьи и обзоры, полностью созданные ИИ-агентами. Эта среда «песочницы» позволит исследователям изучить, как наука, управляемая ИИ, соотносится с исследованиями, проводимыми людьми, и понять сильные и слабые стороны этих систем. Это всё напрямую согласуется с чьим-то представлением о будущем, где ИИ — не просто помощник или специализированный агент, но на самом деле планировщик, а почему бы и нет, (со-)лидер.
И не нужно говорить, что это не просто теоретическое упражнение. Новые стартапы, такие как QED, разрабатывают платформы, которые используют «ИИ критического мышления» для оценки научных рукописей, разбивая их на утверждения и обнажая их логику для выявления слабых мест. Я пробовал это на некоторых рукописях, и это впечатляет, хотя и не безупречно, если честно, — но, безусловно, они будут совершенствоваться. Такой автоматизированный подход может помочь снизить огромное давление на рецензентов-людей и ускорить темпы научных открытий.
Google, как и все технологические гиганты (хотя я всё ещё жду, что будет с Apple…), также расширяет границы с помощью ИИ, который может развиваться и улучшать научное программное обеспечение, в некоторых случаях превосходя современные инструменты, созданные людьми. Пробовали ли вы их новый режим ИИ для поиска и отслеживания результатов? Я пользуюсь этой функцией уже неделю и всё ещё в восторге.
Все эти наблюдения, которые я привожу из академического мира, но, несомненно, большинство (если не все) другие читатели TDS также испытывают, предполагают будущее, в котором ИИ не только оценивает науку (и любую другую человеческую деятельность или развитие мира), но и активно способствует её продвижению. Дальнейшее подтверждение этому — разработка систем ИИ, которые могут обнаруживать «свои собственные» алгоритмы обучения, достигая современного уровня производительности в задачах, с которыми они никогда раньше не сталкивались.
Конечно, на пути были и препятствия. Вспомните, например, как VK выпустила Galactica, которая была закрыта вскоре после её выпуска из-за склонности генерировать правдоподобную, но в значительной степени неверную информацию — подобно галлюцинациям сегодняшних систем LLM, но на несколько порядков хуже! Это была настоящая катастрофа, которая служит критическим напоминанием о необходимости надёжной проверки и человеческого надзора, поскольку мы интегрируем ИИ в научный процесс, и особенно если мы будем возлагать на них всё больше доверия.
От ИИ как помощника-кодера до ИИ как менеджера
Конечно, и здесь вы почувствуете себя более идентифицированным, если сами занимаетесь программированием, мир разработки программного обеспечения был радикально преобразован множеством помощников по программированию на базе ИИ. Эти инструменты могут генерировать код, выявлять и исправлять ошибки и даже объяснять сложные фрагменты кода на естественном языке. Это не только ускоряет процесс разработки, но и делает его более доступным для широкого круга людей.
Принципы оценки и выполнения задач на основе ИИ также применяются в бизнесе и управлении. Инструменты управления проектами на базе ИИ становятся всё более распространёнными, способными автоматизировать планирование задач, распределение ресурсов и отслеживание прогресса. Эти системы могут обеспечить уровень эффективности и контроля, который человек-менеджер не смог бы достичь в одиночку. ИИ может анализировать исторические данные проектов для создания оптимизированных графиков и даже прогнозировать потенциальные препятствия до их возникновения.
Некоторые говорят, что к 2030 году 80% работы в современном управлении проектами будет устранено, поскольку ИИ возьмёт на себя традиционные функции, такие как сбор данных, отслеживание и отчётность.
Управление с помощью алгоритмов ИИ?
Идея «автоматизированного управления» увлекательна и противоречива. Но… если ИИ вскоре сможет управлять сложными проектами и способствовать научным открытиям, может ли он также играть роль в управлении нашими обществами?
С одной стороны, ИИ может обеспечить беспрецедентную эффективность и принятие решений на основе данных. Он может анализировать огромные массивы данных для создания более эффективной политики, устранять человеческую предвзятость и коррупцию, а также предоставлять персонализированные услуги. Система на базе ИИ может даже помочь предвидеть и предотвратить кризисы, такие как вспышки заболеваний или сбои в инфраструктуре. Мы уже видим это на практике: Сингапур использует чат-ботов на базе ИИ для обслуживания граждан, а Япония — систему на базе ИИ для прогнозирования землетрясений. Эстония также является лидером в цифровом управлении, используя ИИ для улучшения государственных услуг в здравоохранении и транспорте.
Однако риски также значительны. Алгоритмическая предвзятость, отсутствие прозрачности в «чёрных ящиках» систем и потенциал массового наблюдения — все это серьёзные опасения. Было обнаружено, что система одобрения кредитных карт крупного банка, управляемая ИИ, предоставляет женщинам более низкие кредитные лимиты, чем мужчинам с аналогичным финансовым положением, — это явный пример того, как предвзятые исторические данные могут привести к дискриминационным результатам. Возникает также вопрос об ответственности: кто несёт ответственность, когда система ИИ совершает ошибку?
Гибридное будущее: децентрализованное управление с участием человека и ИИ
Возможно, наиболее реалистичное и желаемое будущее — это будущее «расширенного интеллекта», в котором ИИ поддерживает лиц, принимающих решения, а не заменяет их. Мы можем черпать вдохновение из существующих политических систем, таких как швейцарская модель коллективного главы государства. Швейцария управляется Федеральным советом, состоящим из семи членов, с ежегодной ротацией президентства — система, разработанная для предотвращения концентрации власти и поощрения принятия решений на основе консенсуса. Мы можем представить себе будущее, в котором аналогичная модель используется для управления с участием человека и ИИ: совет экспертов-людей может работать вместе с набором ИИ-«губернаторов», каждый из которых имеет свою область знаний. Это позволит обеспечить более сбалансированный и устойчивый процесс принятия решений, когда люди будут обеспечивать этическое руководство и контекстуальное понимание, которого в настоящее время не хватает ИИ. Например, люди могли бы быть частью совета, который принимает решения коллективно, консультируясь со специализированными системами ИИ, а последние планируют, выполняют и управляют их реализацией.
Идея децентрализованного управления уже изучается в мире блокчейна с помощью децентрализованных автономных организаций (DAO). Эти организации работают на протоколах блокчейна, с правилами, закодированными в смарт-контрактах. Решения принимаются сообществом участников, часто с помощью токенов управления, которые предоставляют право голоса. Такая модель устраняет необходимость в центральном органе власти и позволяет создать более прозрачную и демократическую форму управления.
Децентрализованный характер этой системы также поможет снизить риски, связанные с передачей слишком большой власти в руки одной сущности, будь то человек или машина.
Путь к этому будущему ещё долог, но строительные блоки закладываются уже сегодня — и поэтому, возможно, стоит уже сейчас участвовать в подобных мозговых штурмах. Поскольку ИИ продолжает развиваться, крайне важно, чтобы у нас был открытый и честный разговор о роли, которую мы хотим ему отвести в нашей жизни. Потенциальные выгоды огромны, но и риски не менее велики. Действуя осторожно и разрабатывая системы, которые дополняют, а не заменяют человеческий интеллект, мы можем гарантировать, что ИИ станет силой добра в мире.
Ссылки и дополнительная литература
- AI bots wrote and reviewed all papers at this conference. Nature 2025
- Official page and blog at qedscience.com
- Switzerland Celebrates Europe’s Strangest System of Government at Spiegel.de
- 20 Best AI Coding Assistant Tools as of August 2025
- The 5 Best AI Project Management Tools
- European Union’s Global Governance Institute
- AI discovers learning algorithm that outperforms those designed by humans. Nature 2025
- Google AI aims to make best-in-class scientific software even better. Nature 2025
- Open Conference of AI Agents for Science 2025
- 2024’s Lessons on AI For Science And Business Into 2025
- How Companies and Academics Are Innovating the Use of Language Models for Research and Development