Palabras clave
ética en investigación
gobernanza algorítmica
regulación de IA
sesgos algorítmicos
Resumen
La adopción acelerada de la inteligencia artificial (IA) ha transformado los procesos de análisis, modelación y producción de conocimiento en la investigación científica, particularmente en el ámbito de la salud. Aunque estas tecnologías ofrecen mejoras sustanciales en eficiencia, precisión y capacidad predictiva, su desarrollo ha superado la evolución de los marcos éticos y regulatorios, especialmente en países de ingresos medios como México. El objetivo de este artículo es examinar los principales desafíos éticos y regulatorios asociados al uso de IA en investigación científica, con énfasis en el contexto mexicano y en áreas prioritarias como salud pública, análisis epidemiológico, microbioma, diagnóstico asistido y gestión de riesgos clínicos.
Se realizó una revisión narrativa de la literatura científica, de documentos regulatorios nacionales e internacionales, así como de estudios recientes sobre la adopción de la inteligencia artificial en laboratorios y ensayos clínicos. Los hallazgos muestran avances importantes, pero también evidencian brechas en capacitación, gobernanza de datos, representatividad algorítmica, explicabilidad, reproducibilidad y responsabilidad jurídica. Persisten riesgos éticos derivados de sesgos en los datos, la opacidad de modelos complejos, las limitaciones del consentimiento informado y la fabricación algorítmica. En el ámbito regulatorio, México carece de estándares específicos para la validación, certificación, auditorías de equidad y supervisión del ciclo de vida de los modelos, en contraste con marcos como el Reglamento de Inteligencia Artificial de la Unión Europea, el de la Organización Mundial de la Salud (OMS), el de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) y el de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (por sus siglas en inglés, UNESCO). Se concluye que México enfrenta la necesidad urgente de construir un marco integral de gobernanza algorítmica que garantice un uso ético, seguro y transparente de la IA en investigación científica. El fortalecimiento institucional y la formación especializada son elementos clave para avanzar hacia una adopción responsable y alineada con estándares internacionales.
Referencias
1. Topol EJ. High-performance medicine: the convergence of human and artificial intelligence. Lancet. 2019;393(10175):507–22. doi: 10.1016/ S0140-6736(18)30117-8
2. Esteva A, Robicquet A, Ramsundar B, Kuleshov V, DePristo M, Chou K, et al. A guide to deep learning in healthcare. Nat Med. 2019;25(1):24–
3. México. Congreso de la Unión. Ley Federal de Protección de Datos Personales en Posesión de los Particulares. Diario Oficial de la Federación; 2010 jul 5
4. Morley J, Floridi L. The limits of machine learning in healthcare: what clinicians should know. Sci Eng Ethics. 2020;26:1333–53. doi: 10.1007/ s11948-019-00151-x
5. UNESCO. Recommendation on the Ethics of Artificial Intelligence [Internet]. Paris: UNESCO; 2021.[cited 2025 De 3] Disponible en: https:// unesdoc.unesco.org
6. World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance [Internet]. Geneva: World Health Organization; 2021. [Cited 2025 Dec 3]. Disponible en: https://www.who.int/ publications/i/item/9789240029200
7. OECD. OECD Principles on Artificial Intelligence. Paris: Organisation for Economic Co-operation and Development; 2019. Disponible en: https:// oecd.ai
8. Turing AM. Computing machinery and intelligence. Mind. 1950 Oct;59(236):433–60. doi: 10.1093/mind/LIX.236.433
9. McCarthy J, Minsky ML, Rochester N, Shannon CE. A proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Hanover (NH): Dartmouth College; 1955. Available from: https://ojs.aaai.org/aimagazine/ index.php/aimagazine/article/view/1904
10. LeCun Y, Bengio Y, Hinton G. Deep learning. Nature. 2015;521(7553):436–44. doi: 10.1038/ nature14539
11. Jordan MI, Mitchell TM. Machine learning: Trends, perspectives, and prospects. Science. 2015;349(6245):255–60. doi: 10.1126/science. aaa8415
12. Esteva A, Kuprel B, Novoa R, et al. Dermatologistlevel classification of skin cancer with deep neural networks. Nature. 2017;542:115–8. doi: 10.1038/nature21056
13. Rajpurkar P, Irvin J, Zhu K, et al. CheXNet: Radiologist-level pneumonia detection on chest X-rays with deep learning. arXiv. 2017. doi: 10.48550/arXiv.1711.05225
14. European Union. Artificial Intelligence Act. Brussels: EU; 2021
15. Secretaría de Economía; Centro de Investigación y Docencia Económicas (CIDE). Agenda Nacional Mexicana de Inteligencia Artificial 2030. México: Secretaría de Economía; 2021. Available from: https://wp.oecd.ai/app/uploads/2022/01/ Mexico_Agenda_Nacional_Mexicana_de_ IA_2030.pdf
16. Gobierno de México. Centro Público de Formación en Inteligencia Artificial. Presidencia de México; 2024. Disponible en: https://www. gob.mx/presidencia/prensa/presidentaclaudia-sheinbaum-encabeza-presentaciondel-nuevo-centro-publico-de-formacion-eninteligencia-artificial
17. Rajkomar A, Dean J, Kohane I. Machine learning in medicine. N Engl J Med. 2019;380:1347–58. doi: 10.1056/NEJMra1814259
18. Obermeyer Z, Emanuel EJ. Predicting the future — Big data and machine learning in medicine. Science. 2016;353(6301):446–52.doi: 10.1126/ science.aad9837
19. Deo RC. Machine learning in medicine. Circulation. 2015 Nov 17;132(20):1920–30. doi: 10.1161/CIRCULATIONAHA.115.001593
20. Silver D, Huang A, Maddison CJ, Guez A, Sifre L, van den Driessche G, et al. Mastering the game of Go with deep neural networks and tree search. Nature. 2016 Jan 28;529(7587):484–9. doi: 10.1038/nature16961.26
21. LeCun Y, Bengio Y, Hinton G. Deep learning. Nature. 2015;521(7553):436–44. doi: 10.1038/ nature14539
22. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med. 2022 Jan;28:31–
23. Devlin J, Chang MW, Lee K, Toutanova K. BERT: Pre-training of deep bidirectional transformers for language understanding. In: Proceedings of NAACL-HLT; 2019. doi: 10.48550/ arXiv.1810.04805
24. Bommasani R, Hudson DA, Adeli E, Altman R, Arora S, von Arx S, et al. On the opportunities and risks of foundation models. arXiv preprint arXiv:2108.07258. 2022. Available from: https:// arxiv.org/abs/2108.07258
25. Ronneberger O, Fischer P, Brox T. U-Net: Convolutional networks for biomedical image segmentation. In: MICCAI; 2015. p. 234–41
26. Litjens G, Kooi T, Bejnordi BE, et al. A survey on deep learning in medical image analysis. Med Image Anal. 2017;42:60–88. doi: 10.1016/j. media.2017.07.005
27. Karras T, Laine S, Aila T. A Style-Based Generator Architecture for Generative Adversarial Networks. In: CVPR; 2019. p. 4401–10
28. Sanchez-Lengeling B, Aspuru-Guzik A. Inverse molecular design using machine learning. Science. 2018;361:360–5. doi: 10.1126/science. aat2663
29. Shortliffe EH, Sepúlveda MJ. Artificial intelligence in medicine: Weighing accomplishments and promise. Yearb Med Inform. 2019;28(1):257–62. doi: 10.1055/s-0039-1677891
30. King RD, Rowland J, Oliver SG, et al. The automation of science. Science. 2009;324(5923):85–9. doi: 10.1126/science.1165620
31. Yang GZ, Cambias J, Cleary K, et al. Medical robotics: Regulatory, ethical, and legal considerations. Sci Robot. 2017;2(4):eaam8638. doi: 10.1126/scirobotics.aam8638
32. Sánchez-González JM, Morán-Moguel MC, Rivera-Cisneros AE, Ramírez-Barba EJ, SierraAmor RI, Portillo-Gallo JH, et al. Conceptualization of the use of artificial intelligence by clinical or research laboratory professionals: challenges for its implementation in Mexico. EJIFCC. 2025 Oct 1;36(3):366–77
33. Hernández Medina R, Kutuzova S, Nielsen KN, Johansen J, Hansen LH, Nielsen M, et al. Machine learning and deep learning applications in microbiome research. ISME Commun. 2022;2:98. doi: 10.1038/s43705-022-00182-y
34. Teodoro D, Naderi N, Yazdani A, Zhang B, Bornet A. A scoping review of artificial intelligence applications in clinical trial risk assessment. npj Digit Med. 2025;8:486. doi: 10.1038/s41746025-01234-x
35. Resnik DB, Hosseini M. The ethics of using artificial intelligence in scientific research: new guidance needed for a new tool. AI Ethics. 2024 May;5(2):1499–521. doi: 10.1007/s43681-02400493-8
36. Hanna, M. G., Pantanowitz, L., Jackson, B., Palmer, O., Visweswaran, S., Pantanowitz, J., & Rashidi, H. (2025). Ethical and Bias Considerations in Artificial Intelligence/Machine Learning. Modern Pathology, 38, Article 100686
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.