Малюська хоче використовувати штучний інтелект у кримінальної юстиції: Наскільки це можливо
Опубликованно 04.06.2020 05:55
Міністр юстиції Денис Малюська блиснув ідеєю - автоматизувати оцінку ризиків обвинувачених, ув\'язнених та засуджених з допомогою штучного інтелекту, а також використовувати нові технології для процесуальних рішень: при обранні запобіжного заходу або санкцій, умовно-дострокове звільнення тощо. Міністр юстиції Денис Малюська блиснув ідеєю - автоматизувати оцінку ризиків обвинувачених, ув\'язнених та засуджених з допомогою штучного інтелекту, а також використовувати нові технології для процесуальних рішень: при обранні запобіжного заходу або санкцій, умовно-дострокове звільнення тощо.
"Потрібна професійна порада: є сенс купувати існуючий софт за кордоном (наприклад, compas в Штатах)? Варто замовляти розробку софта з нуля? Є вітчизняні компанії, які можуть розробити аналог не за всі гроші всесвіту? Наскільки розумію, перевагою іноземного софта була б можливість використання вже існуючих наборів даних іноземних юрисдикцій (поки не сформуємо свої)", - написав Малюська на своїй сторінці в Facebook.
А потім задався питанням - чи варто взагалі залучати штучний інтелект у прийнятті подібних рішень - чи, може, просто обмежитися системою балів.
Що таке штучний інтелект
Штучний інтелект (ШІ) - це область комп\'ютерних наук, а точніше - науки про даних (Data Science). Джон Маккарті, який вважається батьком ШІ, ще в 1950-х роках дав просте визначення цьому поняттю - "це наука та інженерія для виробництва розумних машин". Концептуально - це можливість машин сприймати та відповідати на інформацію з навколишнього середовища незалежно і виконувати завдання, які зазвичай вимагають людського інтелекту та прийняття рішень, але без участі людей.
ІЇ широко використовується в наш час - від безпілотних автомобілів до біржових прогнозів, а також у медицині і багатьох інших галузях.
Основний принцип роботи - вивчення наявної інформації з масивів даних. Спеціально написані програми "проганяють" дані, виділяють певні закономірності і на їх основі роблять висновки, які потім можуть використовуватися людьми для прийняття рішень.
Використання та ефективність
Згідно з дослідженням, проведеним за замовленням американської Національної довідкової служби з кримінального правосуддя, використання штучного інтелекту допоможе не тільки в затриманні злочинців (наприклад, на підставі систем розпізнавання облич на фото і відео), але попередження злочинів. Зазвичай ця робота лягає на плечі поліції і служб пробації.
Група дослідників проаналізувала понад 340 тисяч ордерів, щоб обчислити ризики повторного порушення, в який проміжок часу це може статися і яка ймовірність того, що злочинець сховається від правоохоронців (якщо він не перебуває під наглядом). Вони сформували алгоритми, які повинні допомогти правоохоронним органам у виконанні ордерів та оптимізації ресурсів.
Алгоритми також можуть виявляти злочини проти літніх людей і допомагати припиняти їх. А також - обчислювати потенційних жертв насильницьких злочинів на підставі асоціацій і поведінки.
Але важливо зазначити, що це дослідження щодо можливостей ІІ, на практиці все ж є відмінності. COMPAS
Зараз у деяких Штатах (зокрема в штатах Нью-Йорк, штат Вісконсін, Каліфорнія і Флорида) використовується програма під назвою COMPAS. Було створено приватною компанією Northpointe (зараз Equivant) в 1998 році і з роками змінювали по мірі збільшення даних в області кримінології та вдосконалення практики виправних установ. У чому зміни в цій області пішли за новими досягненнями в оцінці ризиків, пояснюють його творці.
Програмне забезпечення використовує алгоритми в трьох основних напрямках - для оцінки загального ризику рецидивизма, насильницького рецидивизма або можливості сховатися до суду.
Шкала ризику досудового звільнення оцінює ризик того, що людина може не з\'явитися на суд та/або вчинити нові злочини під час перебування на свободі. Згідно з дослідженням, яке послужило основою для створення шкали, "поточні звинувачення, які очікують звинувачення, історія попередніх арештів, досудові попередні порушення, постійне місце проживання, статус зайнятості, громадські зв\'язки та зловживання психоактивними речовинами" є найбільш значущими показниками, які впливають на оцінки ризику перед судом.
Шкала загального рецидивизма призначена для прогнозування нових злочинів після звільнення і після оцінки COMPAS. У шкалі використовується кримінальна історія особистості та її спільників, ставлення до наркотиків та ознаки підліткової злочинності.
Шкала насильницького рецидивизма - показник насильницького рецидивизма, призначений для прогнозування насильницьких злочинів після звільнення. У шкалі використовуються дані або показники, які включають "історію насильства, історію недотримання встановлених заходів, професійні та освітні проблеми, вік при першому затриманні особи і вік при першому арешті". Оцінка ризику для насильницького рецидиву розраховується наступним чином:
Показник ризику насильницького рецидивизма = (вік ? -w) + (вік при першому арешті ? -w) + (історія насильства * w) + (професійна освіта * w) + (історія непокори * w), де w - це вага, розмір якого визначається силою відношення предмета до рецидиву образи особистості, яке спостерігали у дослідженні".
Однак незважаючи на пояснення творців про алгоритми, COMPAS був розкритикований в першу чергу через непрозорість. Оскільки софт був створений приватною компанією, точна робота його алгоритмів не розкривається і є комерційною таємницею. До того ж більш прості моделі, начебто лінійної регресії, показували результати не гірше COMPAS.
Ще один шквал критики звалився на це після дослідження про доцільність використання. Для цього залучили 400 випадкових добровольців через краудфайндинговый сайт. Кожен з них бачив короткі описи обвинувачених, виділяючи сім фрагментів інформації. Виходячи з цього, вони повинні були вгадати, чи зробить обвинувачений нові злочини протягом двох років.
У середньому вони дали 63% правильних відповідей. Точність відповідей зросла до 67%, коли їх відповіді були об\'єднані. У той час як COMPAS має точність 65%. Це трохи краще, ніж окремі віщуни, і не краще, ніж натовп. Недосвідчені люди, які відповідають на онлайн-опитування, попередньо ознайомившись з невеликою кількістю інформації, впоралися не гірше складної програми. Недоліки та українська реальність
Самий очевидний недолік - рішення базуються тільки на відомих даних. Якщо злочинець раніше не попадався правоохоронним органам і не був засуджений, його "профайл" буде чистий, значить, програма вважатиме його меншим ризиком. Хоча сукупність інших факторів може наштовхнути обвинувачення і суддів на інші міркування. Припустимо, є справи, де фігурував підозрюваний/обвинувачений, але вони з якихось причин розсипалися (недостатня доказова база, процесуальні порушення тощо).
Із-за нелінійності та неоднорідності інших даних неможливо побудувати ефективні алгоритми. Уявімо, є злочинець, якого шукали кілька років і в якого на рахунку інші злочини, скоєні. Але за ці кілька років його життя сильно змінилася - він вдарився в релігію, завів сім\'ю, зайнявся благодійністю і став проповідувати. Звичайно, це не гарантія, але ймовірність втечі або повторного правопорушення може сильно знизитися. Інший приклад - раніше поважний і добрий вчитель хімії, багатодітний батько і совісну платник податків вдарилася у всі тяжкі і почав виробництво метамфетаміну з усіма кримінальними наслідками такої діяльності. Що скаже машина? Таких додаткових умов може бути безліч. Програма має ефективність лише на основі загальних патернів, що викидає будь-які, не відповідні їм елементи пазла за борт.
У такому випадку найбільш ймовірна опція - дерево рішень, яке, наприклад, широко використовується в кредитуванні. Кожен елемент має свою вагу, сукупність цих елементів підказує ймовірність того, що кредит буде виплачений. Або в нашому випадку - який ризик вчинення нового злочину і втечі. І тут знову повертаємося до попереднього пункту - недолік і нелінійність інформації, що породжує "заангажованість" машини.
Але найбільше сумнівів викликає навіть не це. Українські судова, пенітенціарна та правоохоронна системи (як втім і всі інші) функціонують на старій добрій корупції. Ці механізми закласти в алгоритми не вийде, а відмовлятися від "відкатів" навряд чи хтось захоче.
Чернявська Катерина
Категория: Новости
Малюська хоче використовувати штучний інтелект у кримінальної юстиції: Наскільки це можливо
