Искажение данных и вопросы доверия в требованиях к системам ИИ

В связи с все более широким внедрением алгоритмов машинного обучения в областях, затрагивающих здоровье, финансы, безопасность человека, важно понимать, какие требования должны быть предъявлены к системам доверенного ИИ. В докладе попробуем определить, что такое доверие и каким образом могут формулироваться требования, в чем сложность в создании таких систем. Разберем, к чему приводят нарушения требований к доверию на примерах из медицины, управления безопасностью, рекомендательных систем, в научных исследованиях.