Джефф Ральстон запускает Safe AI Fund: Инвестиции в безопасность и ответственность ИИ

Джефф Ральстон, знакомый всем в стартап-среде благодаря своей работе в Y Combinator, вновь вышел на рынок официальных инвестиций, о чём он сообщил в четверг. Его новый фонд, названный Safe Artificial Intelligence Fund (SAIF), не только отражает суть его концепции, но и является игрой слов.

Ральстон активно ищет стартапы, которые «улучшают безопасность, надежность и ответственное использование ИИ», как указано на сайте его фонда. Он планирует инвестировать суммы по 100 000 долларов в рамках SAFE, с верхним пределом в 10 миллионов долларов. SAFE — это инвестиционный инструмент для ранних стадий, разработанный Y Combinator, расшифровывающийся как «простое соглашение о будущей доле в капитале».

Хотя большинство венчурных инвесторов в настоящее время ориентированы на стартапы в области ИИ, Ральстон акцентирует внимание на аспекте безопасности ИИ, признавая, что это понятие может быть довольно размытым.

«Большинство проектов в области ИИ, которые сейчас развиваются по всему миру, направлены на решение различных задач, повышение производительности или открытие новых возможностей. Они не обязательно представляют собой опасность, но их главная цель не связана с безопасностью, — делится Ральстон в интервью TechCrunch. — Я планирую финансировать стартапы, для которых безопасный ИИ является ключевой целью — в очень широком толковании этого термина».

В этот перечень входят стартапы, сфокусированные на улучшении безопасности ИИ, такие как продукты, которые уточняют процесс принятия решений ИИ или проводят оценку безопасности. Он также намерен инвестировать в решения, которые защищают интеллектуальную собственность, обеспечивают соответствие нормативным требованиям, борются с дезинформацией и выявляют атаки, совершенные с помощью ИИ. Кроме того, Ральстон заинтересован в разработке функциональных инструментов ИИ с встроенными функциями безопасности, таких как более точные алгоритмы прогнозирования и системы для ведения переговоров с использованием ИИ, которые защищают корпоративные тайны.

Хотя это может показаться интересным направлением для многих венчурных инвесторов, Ральстон явно не планирует возвращаться в определенные области. Например, он заявляет о своём нежелании инвестировать в полностью автономные боевые системы.

«Искусственный интеллект, безусловно, имеет потенциал для использования в небезопасных сферах: например, для разработки биологического оружия или для управления обычным оружием без человеческого вмешательства», — объясняет он.

На самом деле, он бы предпочел поддерживать «системы безопасности оружия», способные обнаруживать или предотвращать атаки с применением ИИ.

Это мнение контрастирует с подходом многих действующих основателей в сфере оборонных технологий и венчурных инвесторов. Как упоминал TechCrunch, некоторые разработчики оружия с ИИ считают, что такая техника будет эффективнее функционировать без контроля со стороны людей.

Таким образом, сфера ИИ становится отвечающей всем требованиям современных венчурных инвесторов. В этом контексте Ральстон полагает, что его связи с Y Combinator могут предоставить ему определенные преимущества. Ральстон покинул Y Combinator в 2022 году после трёхлетнего срока на посту президента (его сменил Гарри Тан) и более десяти лет на консультационной позиции.

Источник