Врачи используют программное обеспечение для искусственного интеллекта, которое не соответствует минимальным стандартам для записи и расшифровки встреч с пациентами, согласно расследованию Sky News.
NHS Боссы потребовали, чтобы GPS и больницы прекратили использование искусственный интеллект Программное обеспечение, которое может нарушать правила защиты данных и подвергать пациентам риск.
Предупреждение, присланное NHS England в этом месяце, появилось всего через несколько недель после того, как тот же орган написал врачам о преимуществах использования ИИ для заметок — чтобы дать им больше времени, чтобы сосредоточиться на пациентах, используя программное обеспечение, известное как технология окружающей среды, или «AVT».
Министр здравоохранения Уэс -стрит На следующей неделе поставит ИИ в центр плана реформ, чтобы спасти NHS в 10-летнем плане службы здравоохранения в Англии.
Но существует растущее противоречие в отношении программного обеспечения, которое записывает, транскрибирует и суммирует беседы пациентов с использованием ИИ.
В апреле NHS England написала врачам, чтобы продать преимущества AVT и установить минимальные национальные стандарты.
Однако в письме, увиденном Sky News, боссы NHS написали врачам, чтобы предупредить, что неутвержденное программное обеспечение, которое нарушало минимальные стандарты, может нанести вред пациентам.
В письме от 9 июня от национального директора по клинической информации NHS England говорится: «Теперь мы знаем о ряде решений AVT, которые, несмотря на несоблюдение … все еще широко используются в клинической практике.
«Несколько поставщиков AVT обращаются к организациям NHS … многие из этих поставщиков не соответствовали основным стандартам управления NHS.
«Работа с несоответствующими решениями рискует клиническая безопасность, нарушения защиты данных, финансовое воздействие и фрагментацию более широкой цифровой стратегии NHS».
Sky News ранее выявил опасность AI «галлюцинации»где технология составляет ответы, тогда лежат о них, что может оказаться опасным в медицинских учреждениях.
Пожалуйста, используйте Chrome Browser для более доступного видеоплеере
Является ли CHATGPT надежным, несмотря на его «галлюцинации»?
NHS England устанавливает минимальные стандарты, но не сообщает NHS Trusts и поставщикам медицинских услуг, каких поставщиков программного обеспечения использовать.
Sky News теперь может показать, что на NHS England и подобные тела становится все большее давление.
Д -р Дэвид Ригли, заместитель председателя комитета GP Британской медицинской ассоциации, сказал: «Несомненно, как врач -врач сам и мои 35 000 коллег, у нас здесь есть обязанности, но на таком быстро развивающемся рынке, когда у нас нет технических знаний, чтобы изучить это.
«Нам нужна эта помощь и поддержка от тех, кто может проверить, что продукты безопасны, проверьте, что они безопасны, что они подходят для использования в комнате консалтинга, и NHS England должна сделать это, помогать и поддерживать нас».
Доктор Ригли продолжил: «Мы абсолютно поддерживаем технологии и в пользу того, чтобы взять это вперед, чтобы помочь пациентам с NHS, помогать моим коллегам в их операциях.
«Но это должно быть сделано безопасным и безопасным способом, потому что в противном случае мы могли бы получить свободу для всех — и тогда данные могут быть потеряны, это может быть вытекает, и это просто неприемлемо.
«Таким образом, мы не динозавры, мы очень про-аи, но это должен быть безопасный, надежный способ».
Глава конфедерации NHS говорит, что письмо является «действительно значительным моментом»
Призрак десятков малоизвестных, но амбициозных компаний, занимающихся искусственным интеллектом, лоббирующих больницы и операции, чтобы установить свои продукты для прослушивания, заботятся о некоторых специалистах здравоохранения.
В этой технологической гонке вооружений существует огромная прибыль, но задается вопрос, можно ли ожидать, что сотни различных организаций NHS высекают акул.
Мэтью Тейлор, исполнительный директор конфедерации NHS, сказал, что письмо было «действительно значительным моментом».
Он сказал, что для NHS правильно экспериментировать, но должно быть яснее, что технология делает и не работает безопасно.
«Я считаю, что правительство должно помочь с точки зрения решений о закупках, которые доверяют, и должно консультировать, какие системы ИИ — как мы делаем с другими формами технологий, которые мы используем в медицине — которые безопасны», — сказал г -н Тейлор.
«Нам нужно (правительство) сделать немного больше, чтобы направлять NHS лучше всего использовать это».
При нажатии на то, чтобы в краткосрочной перспективе это звучало так, будто это может быть довольно опасным, мистер Тейлор ответил: «То, что вы видели с помощью технологии окружающей среды, — это такая подход« пусть тысяча цветов »имеет свои ограничения».
Пожалуйста, используйте Chrome Browser для более доступного видеоплеере
Крестный отец ИИ предупреждает о его опасности
Ранее в этом году министр здравоохранения, по -видимому, предполагал, что использовались неутвержденные технологии, но отмечали ее как знак, которые врачи были в восторге от перемен.
Мистер Стринг сказал: «Я анекдотично услышал паб, искренне в пабе, что некоторые врачи опередили игру и уже используют окружающий ИИ для своего рода записных заметок и вещей, даже там, где их практика или их доверие еще не догнали их.
«Теперь там много проблем — не поощряя это — но это говорит мне о том, что противоречит этому:« О, люди не хотят меняться, персонал очень счастлив, и они действительно устойчивы к изменениям », это наоборот. Люди плачут за этот материал».
Подробнее от Sky News:
Национальное расследование началось в области материнства
Каждый ребенок в Великобритании, чтобы получить тестирование ДНК
GP Anil Mehta говорит, что программное обеспечение для искусственного интеллекта помогает сократить документы, а пациенты «чрезвычайно уверены»
Врачи, которые используют ИИ, который соответствует национальным стандартам, уже говорят, что есть большие преимущества.
Анил Мехта, врач в избирательном округе Илфорда в Илфорде, сказал Sky News, что он поддержал стремление своего депутата за большим количеством технологий искусственного интеллекта в здравоохранении.
«Я провожу 30% своей недели, делая документы», — сказал он. «Поэтому я думаю, что как только я объяснил все эти особенности того, что мы делаем, пациенты чрезвычайно уверены. И я не сталкивался с никому, кто не хотел, чтобы я сделал это.
Он добавил: «(я) думать, что консультация с вашим врачом чрезвычайно конфиденциальна, так что это вообще не изменилось.
«Это остается конфиденциальным — так что, будь то уязвимый взрослый, уязвимый ребенок, подросток, маленький ребенок с родителем, я думаю, что концепция этой конфиденциальности остается».
Представитель NHS сказал: «Технология окружающего голоса может преобразовать помощь и повысить эффективность, и в апреле NHS выпустила руководство для поддержки его использования безопасным и безопасным способом.
«Мы работаем с организациями и поставщиками NHS, чтобы гарантировать, что все продукты Ambient Voice Technology, используемые в службе здравоохранения, продолжали соответствовать стандартам NHS по клинической безопасности и безопасности данных».
