Строгая ответственность разработчика ИИ, «умысел» самого ИИ и другие актуальные вызовы для деликтного права
14 октября в Центре состоялось очередное заседание Клуба деликтного права по теме: «Возмещение вреда, вызванного созданием и использованием искусственного интеллекта».
Участники мероприятия обсудили необходимость адаптации традиционных доктрин деликтного права к вызовам, связанным с широким распространением технологий ИИ.
В центре внимания оказался вопрос о том, способны ли действующие правовые конструкции эффективно регулировать случаи причинения вреда в связи с созданием и использованием ИИ или требуется корректировка сложившихся подходов.
Во-первых, повсеместное использование ИИ стало общим стандартом как среднего разумного лица, так и отдельных профессий, включая юридическую. В современных условиях ИИ регулярно используется при выполнении аналитических и поисковых операций, что существенно ускоряет рабочие процессы; вместе с тем объём и скорость поступающей информации не позволяют человеку проводить исчерпывающую проверку каждого результата.
Во-вторых, функционирование ИИ не позволяет применять к результату его воздействия классические концепции причинно-следственной связи, поскольку в действительности никто достоверно не знает, как именно эта технология функционирует (так называемая black box problem).
На нашем заседании эксперты отметили, что нужна либо конкретная предвидимость, которая заблокирует любую ответственность за использование ИИ, либо генерализированная, которая лишает этот элемент смысла в целом.
Ключевым результатом дискуссии стала систематизация реальных правоприменительных ситуаций, сопряжённых с причинением вреда в связи с использованием и разработкой технологий искусственного интеллекта (в том числе инцидентов, связанных с выходом автономных агентов за пределы контролируемых сред — например, случаев с «сбежавшими» агентами OpenAI). Такой подход исключил риск излишней фокусировки на противопоставлении строгой и виновной ответственности — в отсутствие фактических данных и с учётом наблюдаемого сближения этих правовых конструкций подобный спор не обладает существенной практической ценностью.
В рамках обсуждения были проанализированы различные категории спорных ситуаций:
• Вред может причиняться продуктом на базе ИИ, что позволяет применять к нему правила product liability (Tesla cases).
В таких случаях возможно применение норм об ответственности за недостатки товара (product liability), что иллюстрируется, в частности, судебной практикой по делам с участием автопилотируемых транспортных средств (Tesla cases).
• Вред вследствие небрежного использования ИИ, где третье лицо — пользователь несет самостоятельную обязанность заботливости и осмотрительности по отношению к потерпевшему. Зачастую вред можно предотвратить сравнительно несложными мерами предосторожности.
• Умышленное причинение вреда третьим лицом с использованием ИИ происходит в тех случаях, когда пользователь применяет технологию для реализации противоправных целей способом, который не мог быть предвиден производителем ИИ в обычном значении этого термина. В такой ситуации причинная связь между функционированием ИИ и наступившим вредом разрывается, и единственным ответственным лицом может быть признано третье лицо — непосредственный пользователь.
Отдельно была затронута перспективная и пока слабо проработанная категория случаев, связанных с потенциальным «умыслом» со стороны самого ИИ — например, ситуации, когда система самостоятельно формирует заведомо ложный донос в правоохранительные органы. Эта группа вопросов требует дальнейшего детального изучения.
На примере указанных ситуаций участники выделили различные основания ответственности за вред от использования ИИ и наметили направления адаптации ключевых концепций деликтного права, включая стандарт заботливости и осмотрительности (standard of care) и критерий предвидимости как элемент юридической оценки причинно-следственной связи.
На заседании с докладами выступили наши студенты, после чего состоялось обсуждение с участием экспертов. В мероприятии приняли участие следующие специалисты в области деликтного и обязательственного права: С.К. Степанов, А.А. Маркелова, А.С. Акужинов, И.И. Акимова, А.Г. Архипова.
Организаторы Клуба выражают искреннюю благодарность спикерам за ценные идеи и нестандартные подходы к постановке проблемы.
Видеозапись открытого заседания опубликована на сайте Исследовательского центра в разделе «Видео».