Изкуствен интелект: нужна ли е повече прозрачност на алгоритмите

Дискусията, организирана на 21 ноември от Отдела на ЕП за оценка на научно-техническите алтернативи (STOA), обърна внимание на влиянието, което имат върху хората и техния достъп до информация различни програми, основани на изкуствения интелект. На базата на събирани данни от нашето поведение в Интернет те определят нашите предпочитания и ни предлагат определени услуги и новини за сметка на други.

Преподавателят по изкуствен интелект в Университета в Бристол Нело Кристианини определи данните като „новия петрол“: „Поведението на хората може всъщност да бъде предвидено на базата на тяхното поведение в миналото. Ние можем да предвидим какво ще направят повечето от нас в типични ситуации. Това, разбира се, може да бъде използвано, за да имитираме човешкото поведение“.

Макар че алгоритмите засягат много аспекти от ежедневието на хората, начинът, по който те функционират, не е публично известен, и е възможно в тях да си били вградени некоректни презумпции или очаквания.

Много хора изпитват опасения от властта, която подобни програми имат върху нашия контакт със света. „Ако дори не знаем как алгоритмите решават какво попада в нашата лента с новини, как можем да дадем мнение за качеството на тези решения?“, попита председателката на STOA Ева Каили (С&Д, Гърция).

„Прозрачността сама по себе си няма да реши нищо, освен ако хората действително не разбират какво се случва“, заяви Михаил Блецас от изследователската лаборатория MIT Media Lab. „Ние се намираме в края на технологична революция и сега трябва да съберем парчетата и да построим нещо на база на резултатите от тази революция“.

Мишел Колман от Международната асоциация на издателите посочи, че алгоритмите имат своите ограничения: „Има възможности да заблудиш машините по начини, по които не можеш да заблудиш хората“.