Отследить обязанности не так уж и сложно.
Как и любой другой человеческий артефакт, один или несколько физических людей создали ИИ. Так что в случае ошибок эти люди будут отвечать морально и юридически.
Мы все еще очень, очень далеки от искусственного всеобщего интеллекта, и вся шумиха, которая окружает нынешние технологии, является своего рода огромной коллективной искусственной галлюцинацией, тщательно управляемой, чтобы позволить большому количеству персональных данных быть собраны.
Нынешние методы сильны, но это всего лишь прикладная статистика. Очень полезно в мире с множеством неоптимальных процессов.
Но увидевшие там разум (ага, даже в AlphaGo Zero) мало чем отличаются от людей, бежавших под первым поездом фильма от братьев Люмьер.
Таким образом, легко отслеживать обязанности.
А еще можно (но очень и очень дорого) вскрыть черные ящики в суде, если они провинятся.
По крайней мере, легко доказать, что они не работают так, как заявлено, либо из-за бага, либо из-за чего-то еще.
Это просто вопрос затрат.
Но, к счастью, есть вещи важнее денег, верно?
