Новый стартап создаст ПО для улучшения систем ИИ

Компания Synth Labs, сфокусированная на создании программного обеспечения для улучшения выравнивания систем искусственного интеллекта (ИИ) с замыслами их создателей, представила свою деятельность после получения инвестиций от M12, фонда венчурного капитала Microsoft, и First Spark Ventures Эрика Шмидта.

Компания, в центре внимания которой проблема выравнивания, разрабатывает программы, в том числе открытого исходного кода, чтобы обеспечить соответствие действий ИИ намерениям создателей.

Проблема выравнивания представляет собой техническую сложность для ИИ-приложений, таких как чат-боты, построенные на больших языковых моделях. Synth Labs предоставит инструменты для управления и настройки таких моделей, особенно тех, что являются открытыми исходниками. Компания утверждает, что ее подход направлен на прозрачность и сотрудничество.

Synth Labs видит свою задачу в предоставлении возможности бизнесам или частным лицам определять, что означает выравнивание для их ИИ-систем.