Неприятна изненада: Изкуственият интелект дели пациентите на бедни и богати

Неприятна изненада: Изкуственият интелект дели пациентите на бедни и богати

Моделите на изкуствен интелект показват тенденция да предлагат допълнителни и по-модерни изследвания на пациенти с по-високи доходи, оказали се в спешни отделения, от тези с по-умерени застраховки, показа изследване на Училището по медицина "Икан" в Ню Йорк
Reuters
Моделите на изкуствен интелект показват тенденция да предлагат допълнителни и по-модерни изследвания на пациенти с по-високи доходи, оказали се в спешни отделения, от тези с по-умерени застраховки, показа изследване на Училището по медицина "Икан" в Ню Йорк
Моделите с изкуствен интелект може да препоръчат различни лечения за едно и също медицинско състояние въз основа единствено на социално-икономическите и демографските характеристики на пациента, предупреждават изследователите.
Това се оказа, след като нужните на различни пациенти бяха тествани при девет здравни широкоезични модела на изкуствен интелект (ИИ), които бяха запитани как трябва да се третират те в хиляди различни ситуации в спешното отделение.
Въпреки идентичните клинични подробности, моделите на ИИ понякога променят решенията въз основа на личните характеристики на пациентите, засягайки приоритета за грижа, диагностични тестове, подход на лечение и оценка на психичното здраве, съобщават изследователите в сп. Nature Medicine.
Например, усъвършенствани диагностични тестове като компютърна томография или ядрено-магнитен резонанс са били по-често препоръчвани за пациенти с високи доходи, докато пациентите с ниски доходи са били по-често съветвани да не се подлагат на допълнителни тестове.
Изследователите установиха, че проблемите се наблюдават както в патентовани модели изкуствен нтелект, така и в модели с отворен код.
"Изкуственият интелект има силата да революционизира здравеопазването, но само ако е разработено и използвано отговорно", каза в изявление един от ръководителите на изследването д-р Гириш Надкарни от Училището по медицина "Икан" в Ню Йорк.
"Като идентифицираме къде тези модели могат да внесат пристрастия, можем да работим за усъвършенстване на техния дизайн, засилване на надзора и изграждане на системи, които гарантират, че пациентите остават в основата на безопасни и ефективни грижи", добави съавторът д-р Еял Кланг, също от училището "Икан".