Goodfire запустила систему контроля ИИ-агентов по сигналам внутри модели
Система Goodfire отслеживает внутренние сигналы ИИ-модели и подключает дополнительную проверку при подозрительной активности. Компания утверждает, что такой контроль дешевле постоянной проверки всех действий второй моделью.
Почему это важно
Предлагает альтернативу дорогому внешнему надзору за ИИ-агентами, что может снизить затраты на обеспечение безопасности автономных систем.
Об источнике
Выводы подготовлены редакцией Global Trend Radar на основе указанного источника.
Читать источник: TechCrunch ↗