کارشناسان هشدار می‌دهند که اپلیکیشن‌های هوشمند مبتنی بر هوش مصنوعی برای شناسایی سرطان پوست، عموم مردم را به خطر می‌اندازند

کارشناسان انجمن متخصصان پوست بریتانیا (BAD) هشدار داده‌اند که اپلیکیشن‌های گوشی‌های هوشمندی که از هوش مصنوعی (AI) برای شناسایی سرطان پوست استفاده می‌کنند، عموم مردم را به خطر می‌اندازند، بسیاری از آنها اعتماد دارند که استفاده از این برنامه‌ها ایمن است. این اعتماد، همراه با عدم رعایت استانداردهای نظارتی مناسب بسیاری از این برنامه‌ها، کاربران را در معرض خطر قرار می‌دهد.

این هشدار، از طرف گروه کاری BAD AI، به دنبال نظرسنجی اخیر YouGov است که نشان می‌دهد 41 درصد از مردم در بریتانیا به یک برنامه تلفن هوشمند اعتماد می‌کنند که از هوش مصنوعی برای شناسایی سرطان‌های پوستی بالقوه استفاده می‌کند.

در حالی که بسیاری از مردم به برنامه‌هایی که از هوش مصنوعی برای تشخیص سرطان پوست استفاده می‌کنند اعتماد می‌کنند، تنها 4 درصد از پاسخ‌دهندگان گفتند که به توانایی خود در قضاوت کردن اینکه آیا برنامه‌ها می‌توانند آنچه را که ادعا می‌کنند انجام دهند، «بسیار مطمئن» هستند. بیش از نیمی (52%) گفتند که به توانایی خود در قضاوت در این مورد اطمینان ندارند.

موضع گروه کاری BAD AI این است که شواهد منتشر شده برای حمایت از اینکه هوش مصنوعی می‌تواند به طور ایمن و مؤثر برای تشخیص سرطان پوست استفاده شود ضعیف است و افراد را در معرض خطر تشخیص اشتباه و از دست دادن تشخیص‌های سرطان قرار می‌دهد.

همه برنامه‌هایی که از هوش مصنوعی برای تشخیص یا درمان پزشکی استفاده می‌کنند، توسط نهادهای نظارتی مانند آژانس نظارتی داروها و محصولات بهداشتی (MHRA) به عنوان «دستگاه‌های پزشکی» طبقه‌بندی می‌شوند. این بدان معنی است که آنها باید تحت یک فرآیند مجوز قرار گیرند تا مطمئن شوند که ایمن هستند و با دقتی که ادعا می کنند به آن دست می یابند، عمل می کنند.

READ  این فقط کووید نیست: به یاد بیاورید که نامزدها انتخابهای کاملاً متفاوتی در زمینه مراقبت های بهداشتی نشان می دهند

تمام دستگاه‌های پزشکی فروخته شده در بریتانیا باید با یکی از سه علامت تأیید شوند: CE (Conformité Européene)، UKCA (بررسی انطباق بریتانیا) یا UKNI (انگلستان ایرلند شمالی). علائم کلاس IIa و بالاتر تأیید می کند که آنها تحت یک فرآیند مجوز رسمی تحت نظارت مقامات بهداشت ملی یا بین المللی قرار گرفته اند. علامت CE یا UKCA ممکن است توسط سازنده برای محصولات خود گواهی کلاس I اعمال شود، اما این محصولات تحت بررسی مستقل قرار نخواهند داشت.

BAD راهنمای استفاده از برنامه‌های تشخیصی سرطان پوست را برای کمک به عموم مردم در تشخیص علائم هشدار دهنده احتمالی ایجاد کرده است.

نتایج این نظرسنجی نگران کننده است. عموم مردم این باور قابل درک دارند که استفاده از این برنامه های تشخیص سرطان پوست مبتنی بر هوش مصنوعی بی خطر است. واقعیت این است که بسیاری از آنها استانداردهای لازم توسط تنظیم کننده ها را برای تشخیص شرایط پزشکی رعایت نمی کنند. MHRA به صراحت اعلام کرده است که تنها برنامه‌های گوشی‌های هوشمند که برای اهداف تشخیصی مناسب هستند، دستگاه‌های پزشکی کلاس IIa یا بالاتر هستند و باید دارای علامت CE، UKNI یا UKCA باشند که نشان می‌دهد الزامات ضروری مربوط به مقررات دستگاه‌های پزشکی را برآورده می‌کنند.

بخشی از مشکل این است که اپلیکیشن‌های تشخیصی هوش مصنوعی که الزامات قانونی تولید شده توسط توسعه‌دهندگان در سراسر جهان را برآورده نمی‌کنند، با سطوح بسیار متفاوتی از تخصص و تجربه، در کنار برنامه‌های کاملاً قانونی، چقدر آسان است. این برنامه‌ها اغلب دارای نام تجاری ظریف هستند، اما اگر دقیق‌تر نگاه کنید، شواهد کمی برای اثربخشی آنها وجود دارد.

مشاهده برنامه‌هایی که ادعا می‌کنند می‌توانند خال‌ها را بررسی کنند بسیار رایج است، و سپس این ادعاها را با سلب مسئولیت مبنی بر اینکه برنامه یک دستگاه تشخیصی نیست، دنبال می‌کنند. این نوع چرخش‌های کوچک بر روی ویژگی‌های تبلیغاتی نه تنها صادقانه نیستند، بلکه به وضوح توسط تنظیم‌کننده‌ها مجاز نیستند.

در حالی که هوش مصنوعی پتانسیل بسیار زیادی برای بهبود مراقبت های بهداشتی دارد، مهم است که هوش مصنوعی به گونه ای عرضه شود که برای عموم ایمن باشد.

دکتر روبتا متین، رئیس گروه کارگروه BAD

BAD از نزدیک با نهادهای نظارتی بریتانیا برای رسیدگی به این نگرانی ها همکاری می کند.