Коли заходить мова про штучний інтелект, найчастіше згадують генеративний ШІ, наприклад, ChatGPT. Але на багато аспектів нашого життя вже давно і непомітно впливає інший тип ШІ – прогностичний.
Саме з ним пов’язана низка запитань, які порушують вчені в галузі комп’ютерних наук із Принстонського університету Арвінд Нараянан і Саяш Капур у своїй книзі «Зміїне масло ШІ: що може штучний інтелект, чого не може і як відрізнити одне від іншого».
Хто перевіряє прогнози?
Нараянан і Капур згадують результати контролю роботи ШІ-системи Retorio. Її творці стверджують, що програма пророкує професійний успіх людини на основі запису відеодзвінка зі співбесідою.
Але, як з’ясувалося, вдягнені окуляри, шарф або книжкові полиці в кадрі радикально змінювали оцінку кандидата. «Очевидно, що носіння окулярів ніяк не впливає на здатність людини добре виконувати свою роботу», – пишуть автори. На їхню думку, Retorio приклад «зміїної олії» – маркетингу, що вводить в оману.
🩹 Помилка може коштувати життя
Одна експериментальна система медичного прогнозування мала визначати, чи залишати хворих із пневмонією на ніч у лікарні. Система помітила, що пацієнти з астмою одужують швидше, тому рекомендувала відправляти їх додому, вважаючи, що їхній стан не потребує госпіталізації.
Однак насправді, астматики перебувають у групі ризику. У разі запалення легенів їх одразу направляють у відділення інтенсивної терапії та отримують посилене лікування. ШІ не зміг зрозуміти цю логіку.
📌 Чому це важливо?
Ці приклади підкреслюють, що прогностичні АІ-системи, навіть якщо здатні робити точні передбачення, не завжди розуміють їхній контекст. Тому покладатися на поради таких систем без належного контролю фахівців у кращому разі ненадійно, а в гіршому – небезпечно.
