Iranian Journal of Medical Ethics and History of Medicine

fa اخلاق و چت‌بات سلامت Ethics and Health Chatbots یازدهمین کنگره اخلاق در سلامت - سخنرانی Health Ethics Congress (11th) - Oral Presentation سخنرانی Oral Presentation <div style="text-align: justify;">با پیشرفت‌های اخیر در حوزه‌ی هوش مصنوعی، استفاده از چت‌بات‌ها در سلامت، بسیار افزایش یافته است. چت‌بات‌های سلامت، ابزارهای نوآورانه‌ای هستند که در زمینه‌هایی چون: آموزش و ارائه‌ی اطلاعات پزشکی به کاربران و ارائه‌ی مشاوره‌‌های اولیه کاربرد دارند. علی‌رغم قابلیت‌ها و مزایای چت‌بات سلامت، این فناوری با چالش‌ها و ملاحظاتی اخلاقی همراه است که باید در کانون توجه قرار گیرد. هدف از این مطالعه، بررسی چالش‌های اخلاقی چت‌بات‌های سلامت است. این مطالعه که از نوع مروری است، با جست‌وجو و شناسایی مقالات مرتبط در پایگاه‌های اطلاعاتی مختلف، ازجمله PubMed و Scopus و WOS با استفاده از کلیدواژه‌هایی مانند Chatbot و Conversational Agent و Medical Ethic انجام شد. بر اساس معیارهای مشخص‌شده، چکیده و متن کامل مقالات بررسی و در نهایت، مقالات مرتبط انتخاب شدند. طبق مطالعات انجام‌شده، استفاده از چت‌بات‌های سلامت با چالش‌های اخلاقی متعددی همراه است که مهم‌ترین آن‌ها عبارت‌اند از: الف. حریم خصوصی و امنیت داده‌ها: داده‌های جمع‌آوری‌شده‌ی بیماران توسط چت‌بات‌ها، در برابر نقض امنیت و حریم خصوصی آسیب‌پذیر هستند؛ ب. دقت و قابلیت اطمینان: خطاهای احتمالی در پاسخ‌های چت‌بات‌ها، می‌تواند به تشخیص نادرست یا ارائه‌ی توصیه‌های اشتباه منجر شود و به‌طور بالقوه به بیماران آسیب برساند؛ ج. سوگیری و برابری: الگوریتم‌های هوش مصنوعی ممکن است، سوگیری‌های موجود در مجموعه‌داده‌های آموزشی را تداوم بخشند که به مراقبت نابرابر برای گروه‌های جمعیتی خاص منجر می‌شود؛ د. مسئولیت‌پذیری و پاسخ‌گویی: به دلیل نبود چهارچوب‌های قانونی مشخص، تعیین مسئولیت در صورت بروز خطا یا عواقب ناخواسته‌ی ناشی از به‌کارگیری چت‌بات‌ها، همچنان موضوعی حل‌نشده باقی مانده است؛ ه. استقلال و اعتماد: اتکای بیش‌ازحد به چت‌بات‌ها ممکن است، عنصر انسانی مراقبت را کاهش دهد و بر اعتماد و استقلال بیمار در تصمیم‌گیری تأثیر بگذارد. چت‌بات‌های سلامت در کنار مزایای شایان ‌توجه خود، چالش‌های اخلاقی مهمی نیز به همراه دارند که نیازمند توجه جدی است. تدوین سیاست‌ها و چهارچوب‌های اخلاقی، با تأکید بر حریم خصوصی، شفافیت، عدالت و پاسخ‌گویی، از گام‌های اساسی و عوامل کلیدی در این زمینه است؛ همچنین، نظارت مستمر، آموزش کاربر و پیروی از قوانینِ درحال‌تحولِ هوش مصنوعی می‌تواند به کاهش نگرانی‌ها و افزایش اعتماد به این فناوری کمک کند.  </div> <div style="text-align: justify;">Health chatbots, powered by artificial intelligence (AI), are revolutionizing healthcare by providing accessible, personalized, and efficient health-related assistance. These tools have found applications in symptom checking, mental health support, and even aiding in clinical decision-making. While their potential to enhance healthcare efficiency is significant, the use of medical chatbots raises significant ethical considerations that must be considered and addressed. The aim of this study is to investigate the ethical challenges and considerations of health chatbots. In this article, we reviewed the literature on the ethical considerations of health chatbots. PubMed, Scopus, Web of Science, and Google Scholar were searched using related keywords such as "Chatbot," "conversational agent," "ethics," "medical," and "healthcare." Relevant studies were selected and reviewed based on specified inclusion/exclusion criteria. The review identified several ethical concerns associated with health chatbots: 1) Privacy and Data Security: Patient data collected by chatbots are vulnerable to breaches, raising concerns about confidentiality and misuse. 2) Accuracy and Reliability: Errors in chatbot responses can lead to misdiagnoses or inappropriate advice, potentially harming patients. 3) Bias and Equity: AI algorithms may perpetuate biases present in training datasets, leading to unequal care for certain demographic groups. 4) Accountability and Responsibility: Unclear legal frameworks complicate the allocation of responsibility in cases of harm. 5) Autonomy and Trust: Overreliance on chatbots may diminish the human element of care, affecting trust and patient autonomy in decision-making. While health chatbots offer substantial benefits in accessibility and efficiency, addressing their ethical challenges is imperative. A robust ethical framework emphasizing privacy, transparency, fairness, and accountability is needed to mitigate risks. Continuous monitoring, user education, and adherence to evolving AI regulations can ensure safe and equitable integration of chatbots in healthcare.</div> اخلاق سلامت, چت‌بات‌های سلامت‌, سلامت, هوش مصنوعی Health chatbots, Artificial intelligence, Conversational agent, Health ethics 1 2 http://ijme.tums.ac.ir/browse.php?a_code=A-12-1581-15&slc_lang=fa&sid=1 Masoud Amanzadeh مسعود امن زاده Amanzadeh.m@gmail.com Yes Assistant Professor of Medical Informatics, Department of Health Information Management, Ardabil University of Medical Sciences, Ardabil, Iran استادیار انفورماتیک پزشکی، گروه مدیریت اطلاعات سلامت دانشگاه علوم پزشکی اردبیل Mahnaz Hamedan مهناز حامدان No PhD in Health Information Management, Ardabil University of Medical Sciences, Ardabil, Iran دکترای مدیرت اطلاعات سلامت، دانشگاه علوم پزشکی اردبیل