AI-TEC у Китаї: чому точний ШІ-діагноз не гарантує змін у клініці

·386 слівредакція
AI-TEC у Китаї: чому точний ШІ-діагноз не гарантує змін у клініці

У Пекіні випробували офтальмологічну клініку AI-TEC, де штучний інтелект задіяли на кількох етапах роботи з пацієнтами. Попри зростання точності діагностики, лікарі почали користуватися системою лише після змін у її інтерфейсі.

Дослідники з Пекінського інституту зорових наук і трансляційних досліджень створили AI-TEC — клініку, в якій ШІ супроводжує пацієнта від підготовки до консультації до подальшого спостереження. Лікарі залишалися залученими до процесу, проте архітектуру роботи спершу проєктували під активне використання алгоритмів.

На старті система слабко виявляла захворювання за знімками сітківки, зокрема глаукому та вікову макулярну дегенерацію. Перелом стався після того, як офтальмологи передали ШІ 1426 якісних зображень із точними діагностичними позначками. Цей масив виявився кориснішим за близько 27 тисяч зображень початкового навчання, які мали нижчу якість і неповне маркування.

Після донавчання показник AUROC, що відображає здатність системи відрізняти хворих від здорових, перевищив 0,93. За цим параметром AI-TEC наблизився до інших сучасних технологій аналізу медичних знімків.

Проте точність виявилася не єдиним вузьким місцем. Через п'ять місяців після запуску працівники клініки скористалися доступними інструментами AI-TEC лише у 41 з 1113 обстежень за місяць — 3,8% випадків. Наступного місяця показник зріс до 259 з 1126 обстежень, тобто до 23%. Дослідники пов'язують це з доопрацюванням системи: вона стала швидшою, кількість потрібних натискань скоротилася, а обсяг ручного введення даних зменшився.

Автори роботи наголошують, що ефективність ШІ в медицині визначають не лише алгоритми. Важать якість даних, зручність робочого процесу, участь лікарів, контроль за системою та можливість виміряти її реальну користь для пацієнтів. Окремо дослідники вказують на потребу у швидкому зворотному зв'язку від медиків: якщо про помилки ШІ повідомляють через тижні, система адаптується повільніше.

Залишається й принципова різниця в логіці роботи. ШІ передусім шукає відповідь, чи є на знімку ознаки захворювання. Лікар спершу бере до уваги скарги та симптоми пацієнта, наприклад погіршення зору, і лише потім оцінює результати обстежень. Тож висока точність аналізу знімків сама по собі не дорівнює кращій медичній допомозі.

Для ринку медичного ШІ це сигнал, що інвестиції в алгоритми без інвестицій у процеси клініки не конвертуються у реальне використання. Дослідники пропонують оцінювати такі системи не лише за тестами алгоритму, а й за тим, наскільки вони змінюють роботу закладу та впливають на здоров'я пацієнтів.

Читайте також