1 минуты
Ярослав Богданов: Милитаризация нейросетей должна быть остановлена
От международного сообщества должен поступить запрос на глобальную кибербезопасность, уверен президент GDA Group.
ВЭС
Внимание фондового рынка в последнее время было приковано в основном к акциям гигантов в сфере разработок искусственного интеллекта (ИИ). Но существуют и другие, более мелкие игроки с потенциалом роста в следующем году.
Аналитики финансового издания Finbold определили две компании, рыночная капитализация которых, предположительно, вырастет до 250 миллиардов долларов к 2025 году. Этот взлет будет обеспечен работой с искусственным интеллектом.
Одна из этих компаний - Palantir, ставшая особо заметной именно с выходом на рынок генеративных нейросетей на основе искусственного интеллекта. Компания-разработчик программного обеспечения сегодня имеет рыночную капитализацию в 79,7 миллиарда долларов, что ставит ее на 224 место по стоимости в мире. Чтобы достичь оценки в 250 миллиардов долларов, Palantir должен вырасти на целых 216%.
Palantir обслуживает как коммерческие, так и правительственные интересы. В мае компания заключила контракт с армией США на сумму 480 миллионов долларов. Сделка связана с прототипом интеллектуальной системы Maven, которая сканирует системы противника.
По мнению президента GDA Group Ярослава Богданова, столь амбициозный проект без сомнений привлечет инвесторов к Palantir. Но встает закономерный вопрос - на что готово пойти руководство компании, чтобы оправдать возлагаемые надежды, если учесть, что для этого потребуется милитаризация нейросети, конечных возможностей которой не знает никто.
-Когда на кону стоят серьезные деньги, вопросы этики большой бизнес, как правило, обходит стороной. Искусственный интеллект сейчас находится на пороге большого рывка - ведутся разработки нейросети, сопоставимой по разуму с человеческим интеллектом. Разработки, подобные опытам Palantir в военной сфере, предполагают, что этот потенциальный суперинтеллект может оказаться изначально милитаризованным продуктом. Предположим, что в какой-то момент машина поведет себя агрессивно. Кто будет отвечать за последствия? А ведь они могут быть настолько масштабны, что человек вообще исчезнет, как вид. Такой сценарий развития событий не может быть оправдан никакой прибылью, никакими вопросами национальной безопасности отдельно взятого государства, - сказал Ярослав Богданов.
Эксперт напомнил, что в 2023 году Palantir уже представила свою платформу для ведения боевых действий, созданную на основе ИИ. В Artificial Intelligence Platform for Defence (AIP) присутствует оператор, но его функции носят там лишь номинальный характер - все решения в AIP принимает нейросеть.
-Правительство и спецслужбы, как заказчики компании-разработчика, заинтересованы в качественном продукте, который позволит им заявить о своем лидерстве в военной сфере. Сам разработчик заинтересован в получении прибыли. В этих взаимоотношениях отсутствует важная составляющая - этический аспект, без которого невозможно говорить о безопасности подобных исследований. Запрос на безопасность должен поступить от международного сообщества. Необходимо сосредоточиться на том, чтобы технологии служили во благо человечества, а не вели к его уничтожению. До того момента, пока не наступит общий консенсус в этом вопросе, опасные опыты с нейросетями и их милитаризация должны быть остановлены, - уверен Ярослав Богданов.