Ensuring trustworthy use of artificial intelligence and big data analytics in health insurance

Bull World Health Organ. 2020 Apr 1;98(4):263-269. doi: 10.2471/BLT.19.234732. Epub 2020 Feb 25.

Abstract

Technological advances in big data (large amounts of highly varied data from many different sources that may be processed rapidly), data sciences and artificial intelligence can improve health-system functions and promote personalized care and public good. However, these technologies will not replace the fundamental components of the health system, such as ethical leadership and governance, or avoid the need for a robust ethical and regulatory environment. In this paper, we discuss what a robust ethical and regulatory environment might look like for big data analytics in health insurance, and describe examples of safeguards and participatory mechanisms that should be established. First, a clear and effective data governance framework is critical. Legal standards need to be enacted and insurers should be encouraged and given incentives to adopt a human-centred approach in the design and use of big data analytics and artificial intelligence. Second, a clear and accountable process is necessary to explain what information can be used and how it can be used. Third, people whose data may be used should be empowered through their active involvement in determining how their personal data may be managed and governed. Fourth, insurers and governance bodies, including regulators and policy-makers, need to work together to ensure that the big data analytics based on artificial intelligence that are developed are transparent and accurate. Unless an enabling ethical environment is in place, the use of such analytics will likely contribute to the proliferation of unconnected data systems, worsen existing inequalities, and erode trustworthiness and trust.

Les progrès technologiques en matière de big data (un terme qui désigne de grandes quantités de données extrêmement variées, provenant de différentes sources et pouvant être traitées rapidement), de sciences de l'information et d'intelligence artificielle peuvent améliorer le fonctionnement du système de santé, mais aussi promouvoir des soins personnalisés et servir l'intérêt public. Néanmoins, ces technologies ne permettront pas de remplacer les composantes fondamentales du système de santé, comme le leadership éthique et la bonne gouvernance, ni d'éviter la nécessité de créer un environnement déontologique et réglementaire solide. Le présent document se penche sur la définition de cet environnement déontologique et réglementaire solide pour l'analyse des big data dans le domaine de l'assurance maladie, et fournit à titre d'exemple les mécanismes de protection et de participation qu'il convient d'instaurer. En premier lieu, imposer un cadre de gouvernance précis et efficace est essentiel au traitement des données. Des normes juridiques doivent être promulguées, tandis que les assureurs doivent être encouragés et incités à adopter une approche centrée sur l'humain, tant dans leur conception que dans leur utilisation de l'analyse des big data et de l'intelligence artificielle. Deuxièmement, il faut mettre en place un processus clair et responsable afin d'expliquer quels types d'informations sont susceptibles d'être employés et à quelles fins. Troisièmement, les personnes concernées doivent avoir la possibilité de déterminer de quelle manière leurs données personnelles sont gérées et régies, en étant activement impliquées dans ce processus. Et quatrièmement, les assureurs et les organes de gouvernance, dont les régulateurs et législateurs, doivent collaborer pour faire en sorte que l'analyse des big data basée sur l'intelligence artificielle soit correcte et transparente. À moins d'établir un environnement éthique, l'usage d'une telle analyse entraînera probablement la prolifération de systèmes de données non connectés, l'aggravation des inégalités actuelles ainsi qu'une perte de confiance et de fiabilité.

Los avances tecnológicos relativos a los macrodatos (es decir, grandes cantidades de datos muy variados de muchas fuentes diversas que pueden procesarse rápidamente), las ciencias de los datos y la inteligencia artificial pueden mejorar las funciones del sistema sanitario y promover la atención personalizada y el bien público. No obstante, estas tecnologías no sustituirán los componentes fundamentales del sistema sanitario, como el liderazgo ético y la gobernanza, ni evitarán la necesidad de un entorno ético y normativo sólido. En el presente documento se examina cómo podría ser un entorno ético y normativo sólido para el análisis de macrodatos en el ámbito de los seguros médicos, y se describen ejemplos de mecanismos de protección y participación que deberían establecerse. En primer lugar, es fundamental contar con un marco claro y eficaz de gestión de datos. Es necesario promulgar normas jurídicas y alentar e incentivar a las aseguradoras para que adopten un enfoque centrado en el ser humano en el diseño y la aplicación de análisis de macrodatos e inteligencia artificial. En segundo lugar, es necesario un proceso claro y responsable para explicar cómo y qué información se puede utilizar. En tercer lugar, se debe facultar a las personas cuyos datos puedan ser utilizados mediante su participación activa en la determinación de cómo se pueden gestionar y regular sus datos personales. En cuarto lugar, las aseguradoras y los órganos de gobierno, incluidos los reguladores y los responsables de formular políticas, deben colaborar para garantizar que los análisis de macrodatos basados en la inteligencia artificial que se elaboren sean transparentes y precisos. A menos que exista un entorno ético adecuado, el uso de esos análisis probablemente contribuirá a la proliferación de sistemas de datos sin conexión, empeorará las desigualdades existentes y reducirá la fiabilidad y la confianza.

يمكن للتطورات التكنولوجية في البيانات الضخمة (وهي الكميات الكبيرة من البيانات شديدة التنوع من العديد من المصادر المختلفة والتي يمكن معالجتها بسرعة)، وعلوم البيانات والذكاء الاصطناعي، تحسين وظائف النظام الصحي وتعزيز الرعاية الشخصية والصالح العام. ومع ذلك، إلا أن هذه التقنيات لن تحل محل المكونات الأساسية للنظام الصحي، مثل القيادة والحوكمة الأخلاقية، أو تجنب الحاجة إلى بيئة أخلاقية وتنظيمية قوية. سوف نناقش في هذه الورقة كيف تبدو البيئة الأخلاقية التنظيمية القوية بالنسبة لتحليلات البيانات الضخمة في التأمين الصحي، كما نصف أمثلة للضمانات والآليات المشتركة التي يجب إنشاؤها. أولاً، يعد وجود إطار حوكمة واضح وفعال للبيانات أمراً حيوياً. يجب تفعيل المعايير القانونية كما يجب تشجيع جهات التأمين ومنحها الحوافز لاعتماد نهج يركز على الإنسان في التصميم واستخدام تحليلات البيانات الضخمة والذكاء الاصطناعي. ثانياً، من الضروري وجود عملية واضحة وخاضعة للمساءلة تهدف إلى شرح المعلومات التي يمكن استخدامها وكيف يمكن استخدامها. ثالثاً، يجب دعم الأشخاص الذين يمكن استخدام بياناتهم، وذلك من خلال انخراطهم بشكل نشط في تحديد كيفية إدارة بياناتهم الشخصية والتحكم فيها. رابعاً، تحتج جهات التأمين وهيئات الحوكمة، بما في ذلك الجهات التنظيمية وواضعي السياسات، إلى العمل معًا لضمان أن تكون تحليلات البيانات الضخمة القائمة على الذكاء الاصطناعي، والتي تم تطويرها، تتميز بالشفافية والدقة. ما لم تكن هناك بيئة أخلاقية مناسبة، فإن استخدام هذه التحليلات من المحتمل أن يسهم في انتشار أنظمة للبيانات غير المتصلة، ويزيد من سوء الحالات القائمة لعدم المساواة، ويحد من الثقة والجدارة بالثقة.

大数据(即,可以快速处理大量不同来源的高度差异化数据)、数据科学和人工智能领域的技术进步可以改善医疗系统功能,促进个性化护理和公益服务。然而,这些技术不会取代医疗系统中的道德领导和治理等基本组成要素,也不会消除对稳健的道德和监管环境的需求。在本文中,我们讨论了医疗保险大数据分析中的稳健道德和监管环境可能是什么样子的,并且举例描述了应该建立的保障和参与机制。首先,一个清晰有效的数据治理框架至关重要。需要制定法律标准,并且鼓励和激励保险公司在设计和使用大数据分析和人工智能方面秉承以人为本的理念。第二,必须有一个明确的问责流程来解释可以使用哪些信息以及如何使用这些信息。第三,对于数据被采用的人员,应该通过积极参与决定如何管理和治理其个人数据的方式为其赋权。第四,保险公司和治理机构,包括监管机构和政策制定者,需携手合作,确保基于人工智能开发的大数据分析是透明且准确的。除非具备有利的道德环境,否则使用此类分析很可能会导致未连接的数据系统的分散,加剧现有的不均衡情况,并降低可靠性和可信度。.

Стремительное развитие технологий в области больших данных (то есть больших объемов разнородных данных из самых разных источников, которые можно быстро обрабатывать), обработки и анализа данных и искусственного интеллекта может совершенствовать функции систем здравоохранения и способствовать разработке индивидуального подхода к оказанию медицинской помощи и обеспечению благосостояния общества. Тем не менее использование этих технологий не сможет заменить фундаментальные компоненты системы здравоохранения, такие как этика руководства и управления, или устранить необходимость создания надежной этической и нормативной среды. В этой статье авторы обсуждают, как может выглядеть надежная этическая и нормативная среда для аналитики больших данных в сфере медицинского страхования, и рассматривают примеры защитных мер и механизмов участия, которые необходимо разработать. Во-первых, важнейшее значение имеет разработка четкой и эффективной системы управления данными. Необходимо принять правовые стандарты, которые будут создавать стимулы для страховщиков использовать подход, ориентированный на нужды людей, для разработки и использования аналитики больших данных и искусственного интеллекта. Во-вторых, необходимо разработать четкий и прозрачный метод определения типа данных, которые могут использоваться, а также способ использования таких данных. В-третьих, люди, чьи данные могут использоваться, должны наделяться полномочиями посредством активного участия в определении методов управления их личными данными. В-четвертых, страховщикам и органам управления, включая директивные органы и органы регулирования, необходимо сотрудничать для обеспечения прозрачности и точности аналитики больших данных, полученной на основе разработанного искусственного интеллекта. В отсутствие благоприятной этической среды использование такой аналитики будет скорее способствовать распространению несвязанных систем данных, усугублению существующего неравенства и подрыву авторитетности этой аналитики и доверия к ней.

MeSH terms

  • Artificial Intelligence* / ethics
  • Big Data*
  • Data Science
  • Insurance, Health*
  • Trust*