ARTICLE AD BOX
Американские аналитики активно и даже эмоционально обсуждают инициативу президента Дональда Трампа, которую называют новым «Манхэттенским проектом». Кто-то высказывает опасения, мол, обрушится система управления и даже государственность США, кто-то, наоборот, что именно так Америка «снова станет великой». Какая идея главы Белого дома вызвала столь бурные дискуссии, рассказал доктор юридических наук, заслуженный юрист России, заведующий кафедрой Международного права РГСУ профессор Юрий Жданов.
– Юрий Николаевич, что это за новый «Манхэттенский проект»? Прежний, как известно, был нацелен на создание американской атомной бомбы.
– Да, и успешно был завершен. Полагаю, нет смысла рассказывать эту давнюю историю – в итоге американцы испепелили Хиросиму и Нагасаки (о чем японцы стараются скромно не упоминать – побежденные, им не дозволено).
Но сейчас речь не о новом супероружии. Разговор идет о каких-то новых возможностях, которые - возможно! – может предоставить проект Дональда Трампа. Впрочем, это даже не проект, а так, некоторые наброски.
– То есть?
– Судите сами. Под видом некой новой стратегии, было в совокупности вброшено несколько идей-проектов. Скажем, реформирование американского федерального правительства. Мол, создается департамент по достижению госэффективности, который возглавили американский миллиардер Илон Маск и бизнесмен Вивек Рамасвами (что уже произвело много шума и скандалов). А еще обещано немыслимое количество нововведений в области искусственного интеллекта (ИИ). Мол, а что вы хотели? Мир революционно меняется.
– И все же: причем тут «Манхэттенский проект»?
– Вот это – самое интересное. Тут надо разбираться в деталях. Почему, собственно, этот проект – «манхэттенский»? Ну, как же, все, якобы, на поверхности: кардинальная перестройка американской бюрократии подобна – образно говоря - ядерному удару. Опять же, внедрение искусственного интеллекта во все сферы управления этой самой бюрократии все в корне изменит и порушит. В смысле, порушит саму схему функционирования этой бюрократии. Катастрофа! Вот и ответ. Но только – на первый взгляд.
– А на второй?
- -Есть такой очень авторитетный американский эксперт Лоуренс Кадиш. Он подготовил весьма любопытный доклад, который разрушает некоторые стереотипы – «Срочно требуется: «Манхэттенский проект» президента Трампа 21 века по термоядерной энергетике для обеспечения глобального лидерства».
– Предчувствия меня не обманули – все-таки, речь идет о ядерной, более того – термоядерной энергии. В том числе и поэтому проект – «Манхэттенский»? Но все-таки: зачем именно сейчас Америке это надо? Ведь у США есть дела и поважнее.
– Возможно. Но, как предполагает Лоуренс Кадиш, в Белом доме считают иначе.
«Президенту Дональду Трампу, – подчеркивает он, – необходимо извлечь уроки из наследия лидерства Рузвельта и санкционировать аналогичный «Манхэттенский проект», чтобы гарантировать, что Америка владеет термоядерной энергетикой и будущим, которое с ней связано. Тарифы, Украина, бюджет, НАТО, Ближний Восток - в заголовках газет преобладают повседневные проблемы, требующие нашего внимания, но они также отвлекают нас от стратегических вопросов, которые определят, кто будет доминирующей сверхдержавой в оставшиеся годы 21-го века.
Итак, неудивительно, что Китай в настоящее время инвестирует миллиарды долларов в создание неограниченной энергетики, стремясь освоить сложную технологию термоядерного синтеза. По сообщениям СМИ, Пекин ежегодно инвестирует от 1 до 1,5 миллиарда долларов в исследования в области термоядерного синтеза».
– Не вижу причины для паники – американцы, отнюдь не бедная нация, тоже могут инвестировать в термоядерный синтез. Кто мешает? Сами же талдычат про конкурентный рынок (в упрек марксизму).
– Вот этот «конкурентный рынок» американцев и подкузьмил. Как свидетельствует Лоуренс Кадиш, один из инсайдеров Washington Energy сообщил прессе: «Что важнее количества, так это то, насколько быстро они это делают».
Это он - про китайцев. Речь идет про какой-то отчет американской агентуры в Поднебесной, в котором отмечается, что патентов в Китае на важнейшие аспекты термоядерной технологии больше, чем в любой другой стране, включая США. Стремление Китая к неограниченной энергии связано не только с обеспечением городов и электромобилей энергией.
Лоуренс Кадиш пророчествует: «Самые крупные прорывы в области искусственного интеллекта (ИИ) произойдут, когда компьютеры одной страны получат доступ к неограниченной энергии. Страна, которая может лидировать в разработке искусственного интеллекта (ИИ), станет следующей мировой сверхдержавой».
– На чем основывается такой прогноз?
– Помимо мнения ученых и политологов, - на общественном мнении. А как иначе в Америке? Демократия. Считается, что американцы понимают угрозу. Тот же Кадиш ссылается на национальный опрос, недавно проведенный социологами президента Дональда Трампа McLaughlin & Associates. Выяснилось, что значительное большинство американцев осознают опасность и хотят, чтобы Вашингтон защитил их будущее, инвестируя в термоядерную энергетику. У Трампа много забот, но опрос показал, что трое из пяти избирателей обеспокоены тем, что лидерство Китая в области термоядерной энергетики может поставить под угрозу лидерство Америки. Этот вопрос должен получить приоритетное финансирование от Вашингтона, которого он требует.
Все это, подчеркивает Кадиш, происходит в то время, когда обсуждается федеральный бюджет, необходимо решить проблему дефицита и расставить приоритеты.
– Действительно, очень кстати. Как полагаете, сработает? Дадут денежки?
– А почему – нет? У Лоуренса Кадиша убойные аргументы, оправдывающие, кстати, наименование трамповской идеи новым «Манхэттенским проектом».
«Во время Второй мировой войны, – напоминает он, – президент Франклин Делано Рузвельт санкционировал «Манхэттенский проект», выделив огромные национальные ресурсы на создание ядерного оружия в знак признания того, что если Соединенные Штаты позволят своим врагам победить в этой гонке, само существование Америки окажется под вопросом. Мы должны признать, что сегодня идет аналогичная гонка за технологическое превосходство. Трампу необходимо взять пример с наследия лидерства Рузвельта и санкционировать аналогичный «Манхэттенский проект», чтобы гарантировать, что Америка владеет термоядерной энергетикой и будущим, которое с ней связано.
Президент США Дональд Трамп сравнил задачи по реформированию федерального правительства с «Манхэттенским проектом» 1943 года, в результате которого была создана атомная бомба».
Кстати, возможно, именно из-за потребности в термоядерной энергии и затеяна вся эта возня с якобы присоединением Канады – там великолепно развита атомная энергетика, ведутся передовые и очень перспективные разработки. Может, именно это привлекло Трампа?
– Не знаю, нужно ли все это самим канадцам... Но, все же, – в чем глубинный смысл этой затеи?
– Американцы во главу угла ставят искусственный интеллект (ИИ). Как уже было сказано, для его развития и необходим неиссякаемый источник энергии. Возможно, это и правильно. В отношении ИИ - много задумок и проектов (нам бы поучиться).
- Что это за проекты?
– О них подробно рассказывается в статье в «Международной жизни» - «Манхеттэнский проект 2.0»: Pro et Contra». Тут есть все. В том числе, кстати, и своеобразная трактовка этого самого проекта - «Манхэттен 2.0». Его суть озвучила НАТО в своей обновленной Стратегии ИИ: «Стратегия учитывает достижения в области технологий ИИ, такие как генеративный искусственный интеллект и иные новые инструменты. Стратегия определяет несколько приоритетов, в том числе: продвижение внедрения принципов ответственного использования ИИ; повышение оперативной совместимости между системами искусственного интеллекта во всем альянсе; сочетание ИИ с другими новыми прорывными технологиями; и расширение экосистемы искусственного интеллекта НАТО за счет более тесного сотрудничества с промышленностью и академическими кругами союзников, акселератором оборонных инноваций НАТО DIANA, Инновационным фондом НАТО и партнерами-единомышленниками. Стратегия впервые определила дезинформацию на основе ИИ, информационные операции и гендерное насилие как проблемы, вызывающие озабоченность альянса, сообществ и демократий. В рамках стратегии в области ИИ НАТО будет работать над защитой от враждебного использования ИИ, в том числе посредством усиления стратегического прогнозирования и анализа.
«С учетом обсуждения проблематики безопасности искусственного интеллекта на заседаниях Совбеза ООН, Генассамблеи ООН, а также на иных важных международных и региональных площадках, равно как и на фоне очевидных успехов на треке ИИ Китая, – говорится дальше, – партнеры Трампа не раз заявляли о готовности подготовить указ в духе «Манхэттенского проекта» для продвижения технологий ИИ, в интересах национальной безопасности. В ноябре 2024 года Комиссия по обзору экономики и безопасности США и Китая (USCC ) Конгресса США опубликовала доклад, в котором рекомендовала американским законодателям создать и профинансировать программу по типу «Манхэттенского проекта», направленную на ускоренное развитие общего ИИ».
- Это уже работает?
- -Вы будете смеяться – нет. Пикантная подробность, которую приводят авторы статьи: «В настоящее время проекта пока не существует из-за разнообразных проблем: технических, теоретических и экономических. В силу последнего фактора Минфин США в ноябре 2024 года ввел новые ограничения на инвестиции американских венчурных компаний в китайские компании, разрабатывающие модели AGI (речь идет об универсальном ИИ, способном решать любые задачи в комплексе, а не только узкоспециальные), а также санкции против Китая, направленные на ограничение его доступа к передовым чипам».
«Согласно отчету комиссии, – говорится далее, – по состоянию на июнь 2024 года 50 компаний в Китае занимались разработкой моделей AGI, тогда как в США, по данным комиссии, лишь небольшое число крупных компаний разрабатывают модели AGI. Создавшая ChatGPT компания OpenAI предложила правительству выделить больше средств на разработку AGI в своем «Инфраструктурном плане для США». OpenAI представляет «Манхэттенский проект» в отношении AGI как один из «знаковых инфраструктурных проектов США, которые продвигают страну вперед».
– Даже само название «Манхэттенский проект 2.0» звучит зловеще, навевает печальные ассоциации. Происходит милитаризация технологий ИИ?
– Причем, усиленными темпами. Авторы статьи утверждают, что в то время как Америка обсуждает план инноваций Трампа в сфере ИИ, мир готовится к стрессу, а многие эксперты ожидают, что план президента «Сделать Америку первой в области ИИ», в том числе путем расширения экспортного контроля эпохи Байдена против Китая, ускорит гонку вооружений в области ИИ, которая уже идет.
«В этом контексте, – подчеркивается далее, – важно отметить, что две ведущие компании США в сфере оборонных технологий Palantir и Anduril 7 декабря 2024 года объявили о создании отраслевого консорциума для устранения препятствий, которые, по их мнению, мешают Минобороны США принять «на вооружение» ИИ. Следует подчеркнуть, что обе фирмы являются ключевыми игроками в экосистеме ИИ и программном обеспечении Пентагона. Так, Palantir создает платформы для комплексного анализа и обработки данных, а Anduril известна разработками современных аппаратных и программных систем, ориентированных, в том числе на автономность ИИ».
Обе компании, говорится в статье, работают вместе над программой создания армейской системы доступа к тактической разведке и наведения: «Данная система будет использовать ИИ для интеграции и наведения с введением в эксплуатацию в течение ближайших двух лет. Кроме того, Palantir по контракту 2017 года поставляет программное обеспечение для платформы данных армии, которая помогает лицу, принимающему решение, получать исчерпывающую информацию для управления боевой мощью. Компания Anduril поставляет оборудование и программное обеспечение по проекту Пентагона Replicator, целью которого является развертывание десятков тысяч небольших сетевых беспилотников уже к августу 2025 года».
«Пентагон рассчитывает, что массовое использование дронов позволит нивелировать численное превосходство Народно-освободительной армии Китая, – говорится в этом материале. – В рамках плана Replicator предполагается задействовать беспилотники различных классов: летающие, наземные, надводные, подводные и даже космические. Эти устройства будут способными действовать как индивидуально, так и в группах, даже при отсутствии связи. Основным преимуществом подобной тактики является сохранение жизней военнослужащих, поскольку дроны являются относительно недорогими».
– Недорогими?
– В статье сказано – относительно недорогимию Там приводятся слова главного офицера по цифровым технологиям и ИИ Пентагона Рады Плам, что внедрение технологий ИИ Россией, Китаем и другими соперниками представляет угрозу нацбезопасности США. В силу этого Соединенные Штаты будут прикладывать все усилия, чтобы обеспечить лидерство в сфере искусственного интеллекта: «В этих целях в Пентагоне начало работу специальное подразделение по ускоренному внедрению ИИ с бюджетом $100 миллионов».
– Звучит, вроде бы, все убедительно – с точки зрения, конечно, американцев. Но ведь есть и доводы против этих проектов? Иначе – о чем они там спорят?
– Не все верят в реальность этих проектов. Кое-кто считает, что «Манхэттенский проект 2.0.» – научное мошенничество.
– Даже так?
– Причем, так полагают далеко не последние люди в науке. Известный астрофизик профессор Массачусетского технологического института и соучредитель Института будущей жизни (FLI) Макс Тегмарк опубликовал на сайте института обращение к правительству США, в котором пишет, что «предложение «Манхэттенского проекта» по AGI – это научное мошенничество… Сделать это – означало бы вступить в гонку к самоуничтожению».
С Тегмарком согласен ученый-компьютерщик Джеффри Хинтон, который в октябре 2024 года получил Нобелевскую премию по физике за свои работы в области ИИ. Он сразу же выступил с предупреждением о неконтролируемой человеком мощи технологии ИИ. Хинтон, который в свое время ушел из Google, считается одним из крестных отцов ИИ. И хотя Хинтон признает, что искусственный интеллект может преобразовать человеческое общество в лучшую сторону, что приведет к «огромному повышению производительности» в таких областях, как здравоохранение, он также подчеркнул потенциал «ряда возможных плохих последствий, в частности, угрозу выхода этих вещей из-под контроля».
Макс Тегмарк, который тесно сотрудничал с Илоном Маском по вопросам ограничения опасностей ИИ, заявил, что влияние Илона Маска на будущую администрацию Трампа может привести к ужесточению стандартной безопасности для ИИ. Маск может помочь американскому президенту осознать, что гонка за ИИ — это «самоубийственная гонка». Он также отметил, что поддержка Маском законопроекта SB 1047 в Калифорнии, несмотря на противодействие со стороны многих его коллег-технарей, стала позитивным знаком для сторонников безопасности ИИ. Маск предупреждал, что безудержное развитие искусственного интеллекта может иметь катастрофические последствия для человечества и он стал одним из более чем 30 000 подписантов, призывавших приостановить работу над общим ИИ.
Предостережения ведущих ученых относительно угрозы бесконтрольного развития технологий ИИ подтверждаются исследованиями «внутреннего мира» продвинутых моделей чат-ботов. В мае 2024 года группа американских ученых опубликовала доклад «Диссоциация языка и мышления в больших языковых моделях», в котором доказывается, что все модели ИИ руководствуются в своих решениях и действиях лишь логикой, игнорируя эмоции и мораль. Этические нормы – справедливость, непредвзятость, подотчетность, конфиденциальность, объяснимость и доступность – практически игнорируются.
– То есть, вновь звучат опасения, что ИИ выйдет из-под контроля и самостоятельно развяжет ядерную войну?
– Не самостоятельно. Скорее – просто однажды ошибется, неверно истолкует заложенные в него пожелания программистов. Но это, конечно, слабое утешения для тех – для всех нас, – кто попадет «под раздачу». Поэтому зловещий смертоносный смысл «Манхэттенского проекта» все еще актуален.