Ученая: за ИИ нужно следить строже, чем за атомной бомбой

Одна из сцен Tallinn Digital Summit в этом году называется Kratt в честь персонажа эстонских народных легенд. Для площадки, на которой обсуждают цену внедрения ИИ для общества, название одновременно точное и ироничное. Ведь кратть — что-то вроде магического робота, собранного из костей и поленьев. Он работает с огромным рвением, принося своему хозяину вещи, зерно и деньги, нередко воруя их у соседей. Но краття нужно постоянно занимать работой или кормить. Если у него нет поручений, он может навредить самому хозяину или даже потребовать его душу. Не станет ли искусственный интеллект подобен этому домашнему демону и как этого избежать?

Уже 15 лет профессор Американского университета в Париже, председатель кафедры ЮНЕСКО по ИИ и правам человека Сьюзан Перри занимается этим вопросом. Вот почему ее пригласили выступить и на сцене Kratt в Таллинне. «Закон – наш единственный инструмент», – констатирует Перри в беседе с «Деловыми ведомостями». Она полагает, что у человечества в целом и Европы в частности есть возможность преодолеть опасности ИИ при помощи юридических норм.

«Нам нужно решить: будет ли ИИ угрозой или регулируемым инструментом, безопасным для пользователей и граждан? Граждане платят налоги, за счет которых у технологических компаний есть образованные сотрудники, транспортная инфраструктура и система здравоохранения, помогающая людям оставаться здоровыми. Должны ли технологические компании подчиняться тем же правилам, что и другие отрасли? Я считаю, что да», — говорит профессор Перри.

«Скажу прямо: все исследования, которые я видела, показывают, что из-за ИИ будет потеряно больше рабочих мест, чем создано новых». Профессор Перри констатирует, что страх потерять работу из-за внедрения искусственного интеллекта — не беспочвенный. При этом она отмечает: это не значит, что уровень жизнь обязательно упадет.

«Правительствам придется вмешаться. В переходный период нам, вероятно, потребуется какая-то форма универсального дохода. Я подчеркиваю именно слова „универсальный“ и „доход“», — говорит ученая. Она делает характерный жест руками, поднимая планку: универсальный не значит низкий: «Нельзя просто выбрасывать людей за борт, как будто они стали ненужными, потому что их работу заменил ИИ». По словам Перри, правительствам придется действовать в двух направлениях. С одной стороны - пытаться сделать так, чтобы будущий потенциал ИИ не был потерян, с другой - защитить людей от конкретных социальных последствий его внедрения уже сейчас.

«В ближайшие десятилетия Европа столкнется с серьезным сокращением населения трудоспособного возраста. С этим можно справиться либо за счет миграции, либо с помощью ИИ. Поэтому нужно смотреть на трудовые протесты — например, на те, что мы сейчас наблюдаем во Франции, — с двух точек зрения: что нам будет нужно через 10–20 лет и что происходит уже сейчас. А сейчас людям не хватает денег на жизнь», — отмечает она.

Но даже на найм сотрудников на те рабочие места, которые пока сохраняются за людьми, ИИ активно влияет. С одной стороны — он помогает соискателям составлять заявки и резюме, с другой — отсеивает анкеты кандидатов для компаний и проверяет тестовые задания. Как ни странно, это может привести к обратному результату — росту важности очных встреч и офлайн-испытаний.

«Я вижу, как некоторые крупные организации, например структуры ООН, вводят простые меры предосторожности. Например, в ОЭСР проводят языковой тест: каждый должен подтвердить, что действительно говорит по-английски, по-французски или на другом языке, который он указал. Раньше там также проводили тест по статистике. Ведь стоит получить письмо, написанное на идеальном английском, — и я сразу подозреваю, что его подготовил ИИ»

В сентябре Дарио Амодеи, глава Anthropic выступил сочередным текстом-предупреждением. В нем он прямо призывает замедлить развитие наиболее мощных моделей и предлагает независимую проверку систем и общие стандарты безопасности. Призыв к осторожности поддержали и его конкуренты, Сэм Альтман и Илон Маск. Это уже не первые случаи, когда сами ИИ-гиганты говорят об опасности собственного продукта.

Сьюзан Перри вспоминает фильм «Оппенгеймер», о выдающемся ученом-ядерщике, который корит себя за изобретение атомного оружия. «Есть отличие между ядерными технологиями и ИИ. Об этом вчера говорил и один из участников дискуссии на Tallinn Digital Summit: физики-ядерщики понимают, как работает ядерная технология. А мы не понимаем до конца, как работает ИИ. Поэтому нет никаких оснований отказываться от защитных ограничений».

По ее мнению, у человечества есть и довольно эффективная международная система контроля над ядерным оружием. «Есть эффективный режим контроля над химическим оружием. Контроль над биологическим оружием мог бы быть лучше, но международные режимы существуют во многих сферах. Большинство государств к ним присоединяется, потому что хочет защитить собственных граждан: это их главная забота. Нет причины, по которой мы не могли бы создать такой режим и для ИИ», — отмечает профессор.

Перри считает, что вопрос контроля за ИИ двойного назначения может решить международная организация, сродни той, что следит за распространением оружия массового поражения, которая не позволит использовать гражданские технологии для атак на мирное население.

По ее мнению, ИИ остается недостаточно регулируемым, потому что правительства дают влиятельным компаниям и людям слишком много свободы, а последствия бездействия в первую очередь ложатся на наиболее уязвимых. Поэтому государства должны обеспечить применение уже существующих законов ко всем без исключения, даже несмотря на то, что бюджеты крупных технологических корпораций могут превышать бюджеты небольших стран.

«Более ста лет назад Теодор Рузвельт, сам принадлежавший к элите, применил антимонопольное законодательство против американских олигархов в железнодорожной, сталелитейной и нефтяной отраслях. Нужно сделать это снова, — рассуждает Перри. — Условия конкуренции перестали быть равными, поэтому мы получаем только один тип ИИ. А я хочу видеть разнообразие — разные конкурирующие системы, чтобы можно было выбрать лучшую. Не хочу, чтобы у меня был выбор только между ChatGPT и Anthropic».

Перри пробует представить, каким может быть оптимистичное будущее с ИИ через десять лет: в нем человеку не навязывают одну технологическую платформу: он сам выбирает разные системы для разных задач.

«Обычный человек должен утром взять телефон и не обнаружить, что ему навязана одна-единственная система — Android или Apple. Государство должно создать равные условия для конкуренции, чтобы пользователь мог выбирать разные системы ИИ. Например, эстонский ИИ для прогноза погоды мог бы помочь спланировать день и предупредить о дожде, другая система — помочь поработать с электронной почтой, третья — с видео или фотографиями», — мечтает Перри.

По ее словам, возможность выбора помогает мирному сосуществованию: когда государства делают жесткую ставку на одну строгую модель, это часто заканчивается спорами и даже войнами. В целом, несмотря на все риски, от изменения рынка труда до ИИ-взломов и утечек данных, Перри оптимистично смотрит на будущее ИИ, куда больше ее тревожит изменение климата.

«Возможно, изменение климата даже решит некоторые проблемы ИИ: нам может просто не хватить электроэнергии, чтобы поддерживать работу таких систем. Изменение климата — огромный слон в комнате. Все беспокоятся об ИИ, который, возможно, окажется мышью, хотя может стать и крайне разрушительной силой… Но до сих пор люди каждый раз отступали от края пропасти. И я очень рассчитываю на небольшие страны вроде Эстонии: у них разумный подход к технологиям, и они могут сделать так, чтобы их голос звучал на международных площадках».