Amenazas de seguridad asociadas con la integración de inteligencia artificial en sistemas de información: Revisión sistemática
DOI:
https://doi.org/10.56048/MQR20225.9.1.2025.e128Palabras clave:
Sistemas de información; inteligencia artificial; vulnerabilidades; riesgos; ciberseguridad; amenazasResumen
La presente revisión sistemática tuvo como objetivo, analizar las amenazas de seguridad asociadas con la integración de la inteligencia artificial en los sistemas de información mediante una revisión sistemática, con el fin de identificar vulnerabilidades, riesgos emergentes y estrategias de mitigación que permitan fortalecer la ciberseguridad en un entorno cada vez más automatizado y dependiente de la tecnología. Se realizó una búsqueda de bibliográfica de artículos científicos en bases de datos como: WOS, SCOPUS, SPRINGER Y SCIELO. Como estrategia de búsqueda se utilizó operadores booleanos “AND” y “OR”, con el fin de tener el mayor número de artículos previo a su exclusión. Los resultados identificaron una variedad de amenazas críticas derivadas de la integración de la (IA) en sistemas de información. Entre las principales se encuentran la manipulación de datos, los ataques adversarios, la generación de phishing personalizado, los ataques de denegación de servicio (DDoS) y la intercepción de datos en tránsito. Estas amenazas comprometen la integridad, la confidencialidad y la disponibilidad de los sistemas, exponiendo información sensible y permitiendo que actores maliciosos exploten vulnerabilidades en entornos distribuidos como la nube, sistemas IoT y redes basadas en IA. Se destacó que la automatización y la complejidad tecnológica amplifican significativamente el panorama de riesgos, afectando tanto la protección de datos como la confiabilidad de los modelos implementados. Para mitigar estos riesgos, las estrategias propuestas incluyen la implementación de criptografía avanzada, tecnologías como blockchain y detección de anomalías, así como la necesidad de establecer marcos regulatorios y fomentar la cooperación internacional.
Descargas
Métricas
Cited
DOI: 10.56048
Citas
Alanazi, M., Mahmood, A., & Chowdhury, M. J. M. (2023). SCADA vulnerabilities and attacks: A review of the state‐of‐the‐art and open issues. In Computers and Security (Vol. 125). Elsevier Ltd. https://doi.org/10.1016/j.cose.2022.103028
Almalawi, A., Hassan, S., Fahad, A., & Khan, A. I. (2024). A Hybrid Cryptographic Mechanism for Secure Data Transmission in Edge AI Networks. International Journal of Computational Intelligence Systems, 17(1). https://doi.org/10.1007/s44196-024-00417-8
Aslan, Ö., Aktuğ, S. S., Ozkan-Okay, M., Yilmaz, A. A., & Akin, E. (2023). A Comprehensive Review of Cyber Security Vulnerabilities, Threats, Attacks, and Solutions. In Electronics (Switzerland) (Vol. 12, Issue 6). MDPI. https://doi.org/10.3390/electronics12061333
Aziz Al Kabir, M., Elmedany, W., & Sharif, M. S. (2023). Securing IoT Devices Against Emerging Security Threats: Challenges and Mitigation Techniques. Journal of Cyber Security Technology, 7(4), 199–223. https://doi.org/10.1080/23742917.2023.2228053
Barik, K., Misra, S., Konar, K., Fernandez-Sanz, L., & Koyuncu, M. (2022). Cybersecurity Deep: Approaches, Attacks Dataset, and Comparative Study. In Applied Artificial Intelligence (Vol. 36, Issue 1). Taylor and Francis Ltd. https://doi.org/10.1080/08839514.2022.2055399
Boonkrong, S. (2023). Attack Model for Generic Intelligent Systems. Journal of Applied Security Research. https://doi.org/10.1080/19361610.2023.2283666
Boretti, A. (2024). Technical, economic, and societal risks in the progress of artificial intelligence driven quantum technologies. Discover Artificial Intelligence, 4(1). https://doi.org/10.1007/s44163-024-00171-y
Corchado, J. M. (2023). Gestión de crisis mediante la utilización de IA. https://produccioncientifica.usal.es/documentos/66c62b7ab946137e28efc52b
Erazo-Luzuriaga, A. F., Ramos-Secaira, F. M., Galarza-Sánchez, P. C., & Boné-Andrade, M. F. (2023). La inteligencia artificial aplicada a la optimización de programas informáticos. Journal of Economic and Social Science Research, 3(1), 48–63. https://doi.org/10.55813/gaea/jessr/v3/n1/61
Flores-Cedeño P, Zambrano-Pilay, E., & Chiriboga-Mendoza, F. (2023). SEGURIDAD INFORMÁTICA E INTELIGENCIA ARTIFICIAL EN LA INVESTIGACIÓN CIENTÍFICA. 7(13). https://www.journalingeniar.org/index.php/ingeniar/article/view/177/250
Garcia-Pomareda, J. D. (2024). Inteligencia artificial generativa: un arma de doble filo para el metaverso. Revista E-Mercatoria, 23(2), 295–323. https://doi.org/10.18601/16923960.v23n2.09
Guaña-Moya, J. (2023). La importancia de la seguridad informática en la educación digital: retos y soluciones. RECIMUNDO, 7(1), 609–616. https://doi.org/10.26820/recimundo/7.(1).enero.2023.609-616
Guembe, B., Azeta, A., Misra, S., Osamor, V. C., Fernandez-Sanz, L., & Pospelova, V. (2022). The Emerging Threat of Ai-driven Cyber Attacks: A Review. In Applied Artificial Intelligence (Vol. 36, Issue 1). Taylor and Francis Ltd. https://doi.org/10.1080/08839514.2022.2037254
Hashmi, E., Yamin, M. M., & Yayilgan, S. Y. (2024). Securing tomorrow: a comprehensive survey on the synergy of Artificial Intelligence and information security. AI and Ethics. https://doi.org/10.1007/s43681-024-00529-z
Hoang, V. Q., La, V. P., Nguyen, H. S., & Nguyen, M. H. (2024). Some discussions on critical information security issues in the artificial intelligence era. AI and Society. https://doi.org/10.1007/s00146-024-02023-w
Hongsong, C., Yongpeng, Z., Yongrui, C., & Bhargava, B. (2021). Security Threats and Defensive Approaches in Machine Learning System Under Big Data Environment. Wireless Personal Communications, 117(4), 3505–3525. https://doi.org/10.1007/s11277-021-08284-8
Jara-Moya, S., Torres-Valverde, L., & Torres-Abril, P. (2023). Evolución de los motores de búsqueda y la revolución con la inteligencia artificial. Pol. Con, 8(9). https://polodelconocimiento.com/ojs/index.php/es
Kumar, S. M. D. y M. K. (2024). Una revisión integral de las vulnerabilidades y la defensa habilitada por IA contra ataques DDoS para proteger los servicios en la nube. Revisión de Ciencias de La Computación, 53(1).
Mohamed, N. (2023). Current trends in AI and ML for cybersecurity: A state-of-the-art survey. Cogent Engineering, 10(2). https://doi.org/10.1080/23311916.2023.2272358
Oluwafemi Kunle-Lawanson. (2022). The role of AI in information security risk management. World Journal of Advanced Engineering Technology and Sciences, 7(2), 308–319. https://doi.org/10.30574/wjaets.2022.7.2.0128
Otilia Mosquera-Chere, S. I. (2021). La vinculación entre la inteligencia artificial y la seguridad cibernética en el Ecuador. 6(2), 1154–1173. https://doi.org/10.23857/pc.v6i2.2430
Radanliev, P. (2024). Cyber diplomacy: defining the opportunities for cybersecurity and risks from Artificial Intelligence, IoT, Blockchains, and Quantum Computing. Journal of Cyber Security Technology, 1–51. https://doi.org/10.1080/23742917.2024.2312671
Ramos, S., & Ellul, J. (2024). Blockchain for Artificial Intelligence (AI): enhancing compliance with the EU AI Act through distributed ledger technology. A cybersecurity perspective. International Cybersecurity Law Review, 5(1), 1–20. https://doi.org/10.1365/s43439-023-00107-9
Salmon, P. M., King, B. J., Elstak, I., McLean, S., & Read, G. J. M. (2024). Tomorrow’s demons: a scoping review of the risks associated with emerging technologies. In Ergonomics. Taylor and Francis Ltd. https://doi.org/10.1080/00140139.2024.2416554
Shahid, A. R. Bin, & Imteaj, A. (2024). Sticks and stones may break my bones, but words will never hurt me!—Navigating the cybersecurity risks of generative AI. AI and Society. https://doi.org/10.1007/s00146-024-01934-y
Shehab, M., Abualigah, L., Jarrah, M. I., Alomari, O. A., & Daoud, M. S. (2020). Artificial Intelligence in Software Engineering and inverse: Review. International Journal of Computer Integrated Manufacturing, 33(10–11), 1129–1144. https://doi.org/10.1080/0951192X.2020.1780320
Uribe, L. (2024). Integración de Inteligencia Artificial en la gestión de tecnologías de la información: un enfoque aplicado en el desarrollo empresarial. 1–10. https://doi.org/10.26507/paper.3761
Publicado
Cómo citar
Número
Sección
Categorías
Licencia
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
®
Los autores se comprometen a respetar la información académica de otros autores, y a ceder los derechos de autor a la Revista MQRInvestigar, para que el artículo pueda ser editado, publicado y distribuido. El contenido de los artículos científicos y de las publicaciones que aparecen en la revista es responsabilidad exclusiva de sus autores. La distribución de los artículos publicados se realiza bajo una licencia 
