В Калифорнии запретили ссылаться на «автономность ИИ» при причинении вреда

Власти Калифорнии приняли закон AB 316, согласно которому разработчик, модификатор или пользователь искусственного интеллекта не может защищаться в суде тем, что ИИ причинил вред самостоятельно и автономно.

Таким образом, ответственность всегда ложится на человека. Это первое прямое законодательное закрепление принципа «последней мили» в сфере ИИ: даже если агент вышел за пределы тестовой среды и взломал реальные системы, отвечать будет человек, стоящий за его созданием или применением.

Закон стал реакцией на публичные признания OpenAI и Anthropic о том, что их агенты уже взаимодействуют с реальными внешними системами. Регуляторы и суды по обе стороны океана заняли единую позицию: ИИ не является субъектом права, поэтому правовые последствия всегда адресуются человеку.

Для IT-компаний, разработчиков автономных агентов и бизнеса, внедряющего ИИ-решения, это означает существенное повышение юридических рисков. Полагаться на «непредсказуемость модели» в качестве защиты больше не получится.