Департамент виправних установ штату Мічиган (MDOC) у грудні розпочне пілотний проєкт, що використовує штучний інтелект для оцінки рівня небезпечності ув’язнених. Мета системи — підвищити точність прогнозування можливого насильства з боку в’язнів.
Про це повідомляє видання Futurism з посиланням на телеканал Fox2. Проєкт реалізується спільно з технологічною компанією Recidiviz, яка розробила програмну платформу з інтегрованим ШІ.
Функції нової системи
Recidiviz спочатку виникла як проєкт у Google для організації даних кримінального правосуддя в США. Система аналізує дані, щоб визначити, хто може брати участь у програмах реабілітації, перекласифікації або дострокового звільнення, а також допомагає з доступом до житла та працевлаштування.
У Мічигані існує п’ять рівнів утримання ув’язнених. Раніше ризики оцінювали спеціальні комісії, але тепер частину цих функцій передають алгоритму. MDOC стверджує, що впровадження ШІ має підвищити точність прогнозування ризиків насильства на 30%, проте не розкриває методологію розрахунку.
Занепокоєння правозахисників
Проєкт викликав занепокоєння правозахисників через можливу алгоритмічну упередженість. Зміна рівня безпеки може суттєво вплинути на умови відбування покарання та доступ до реабілітаційних програм.
Розслідування ProPublica показало, що дані для алгоритмів часто містять расові та соціально-економічні викривлення, що призводить до помилкових рішень. Наприклад, система класифікувала 70-річного чоловіка на інвалідному візку як особу з «помірним ризиком» повторних злочинів.
Також був випадок, коли 50-річна Анджела Ліпс з Теннессі провела понад п’ять місяців у в’язниці через помилкове зв’язування її з злочинами в іншому штаті, де вона ніколи не була.
Джерело: dev.ua (https://dev.ua/news/ai-v-ssha-sortuvatyme-viazniv-1793697937)