براساس گزارش جدید موسسه ECRI که در زمینه ایمنی بیماران فعالیت میکند، چتباتهای هوش مصنوعی در حوزه سلامت در صدر فهرست مهمترین خطرات مرتبط با فناوریهای سلامت در ۲۰۲۶ قرار دارند.
به گزارش فانا، چتباتهای مبتنی بر مدلهای زبانی بزرگ مانند چت جیپیتی، کلود، کاپیلوت، جمینای و گروک پاسخهایی شبیه به انسان و با ظاهری تخصصی به سوالات کاربران ارائه میدهند اما نه به عنوان ابزار پزشکی تائید شدهاند و نه تحت نظارت قانونی هستند. با این حال بیماران و کادر درمان به طور فزایندهای از آنها اطلاعات پزشکی میگیرند.
این ابزارها میتوانند اطلاعات غلط یا گمراهکننده بدهند که اگر موثر بر تصمیمات درمانی باشند، میتواند به زیان جدی بیماران منجر شود.
توصیه شده برای استفاده هوشمندانهتر از چتباتها، کاربران محدودیتهای آنها را بشناسند و اطلاعات بدست آمده را با منابع مطمئن بررسی کنند. همچنین سیستمهای درمانی با ایجاد کمیتههای مدیریت هوش مصنوعی، آموزش پزشکان و نظارت بر عملکرد این ابزارها، استفاده مسوولانه از هوش مصنوعی را تضمین کنند/پیآرنیوزوایر.