Изкуствен интелект: как да бъдат ограничени рисковете за потребителите

Защо изкуственият интелект може да представлява заплаха

Машинните алгоритми могат да обработват масиви от данни с точност и бързина, които са непосилни за хората. Това прави приложенията, използващи изкуствен интелект, все по-популярни в области като финансите, здравеопазването, образованието, правото и други.

Ако обаче липсва човешки контрол при вземането на решения, лесно могат да възникнат проблеми. Машините се учат да разпознават модели в бази от данни. Ако в данните са заложени определени предразсъдъци, алгоритмите продължават да ги възпроизвеждат в бъдеще.

Изкуственият интелект при вземането на решения

Изкуственият интелект все повече се използва за създаването на автоматизирани системи за вземане на решения. В много случаи това има силно отражение върху хората, които влизат в контакт с тези системи ˗ например, при отпускане на кредити, при разглеждане на кандидатури за работа, при лечение или по правни въпроси.

Автоматизираните системи могат да доведат до засилване и утвърждаване на социални разделения. Например, установени са случаи с някои алгоритми за наемане на работа, които дискриминират жените.

Грижа за потребителите

Развитието на автоматизирани модели за вземане на решения повдига въпроси за това как да се спечели доверието на потребителите и да се гарантира, че техните интереси са взети предвид. Когато потребителите влизат в контакт с автоматизирани системи, те трябва да бъдат добре информирани как точно функционира алгоритъмът.

Позицията на Парламента

На 23 януари комисията по вътрешен пазар и защита на потребителите в ЕП подкрепи резолюция, която приканва Европейската комисия да обмисли какви мерки са нужни, за да се гарантират правата на потребителите.

Депутатите искат от Комисията да:

• осигури механизми за защита на потребителите от несправедливи или дискриминационни търговски практики и от рисковете, произтичащи от услуги, които използват изкуствен интелект;
• гарантира по-голяма прозрачност на автоматизираните процеси;
• направи нужното за използването само на висококачествени бази от данни, в които няма дискриминация.

„Трябва да направим нужното за гарантирането на защитата и доверието на потребителите и за привеждането на правилата на ЕС за безопасността и отговорността на продуктите към изискванията на дигиталната епоха“, заяви председателят на парламентарната комисия по вътрешен пазар и защита на потребителите Петра де Сутер (Зелени/ЕСА, Белгия).

Следващи стъпки

Депутатите ще гласуват по резолюцията на пленарното си заседание през февруари. След това тя ще бъде изпратена на Комисията и на държавите членки в Съвета. Европейската комисия планира да представи своите планове за общ подход към изкуствения интелект на 19 февруари 2020 г.