Hagamos un breve repaso de la historia de la IA, evolución, aplicaciones actuales y relación con la seguridad de la información, y aspectos legales de la famosa y que será próximamente publicada, Ley Europea de Inteligencia Artificial.
La Historia
La inteligencia artificial (IA), un campo fascinante y en constante evolución, ha capturado la imaginación de científicos, escritores y el público en general durante décadas. Su historia es una mezcla de ciencia, teoría y experimentación práctica, extendiéndose desde mediados del siglo XX hasta la actualidad. Sí, desde mediados del siglo XX, no nació con ChatGPT.
La idea de máquinas inteligentes se remonta a la antigüedad, con mitos y leyendas que hablan de autómatas y entidades mecánicas. Sin embargo, el concepto de inteligencia artificial como lo conocemos hoy comenzó a tomar forma en la década de 1940.
El matemático británico Alan Turing es a menudo considerado el padre de la inteligencia artificial. En 1950, publicó su influyente artículo «Computing Machinery and Intelligence», donde propuso la idea de que las máquinas podrían eventualmente simular cualquier aspecto de la inteligencia humana. Su famoso «Test de Turing» se convirtió en un criterio fundamental para evaluar la inteligencia de una máquina, aunque haya quedado algo obsoleto.
El término «inteligencia artificial» fue acuñado oficialmente en 1956 durante la Conferencia de Dartmouth, organizada por John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon. Esta conferencia es ampliamente reconocida como el nacimiento de la IA como un campo de investigación autónomo.
Desarrollos Tempranos y Aplicaciones
En sus inicios, la investigación en IA se centró en problemas como la resolución de teoremas y la manipulación de símbolos. Uno de los primeros éxitos fue el programa de ajedrez desarrollado por Alan Turing y David Champernowne, seguido por el programa de ajedrez de IBM, Deep Blue, que eventualmente derrotó al campeón mundial Garry Kasparov en 1997.
En 1958, John McCarthy desarrolló LISP, un lenguaje de programación que se convirtió en el estándar para la IA durante décadas. Posteriormente la IA experimentó varios «inviernos», períodos durante los cuales el progreso se estancó y la financiación disminuyó, principalmente debido a expectativas exageradas y limitaciones tecnológicas.
La Era del Aprendizaje Automático
Con el advenimiento de algoritmos más avanzados y el aumento de la capacidad de cómputo, la IA dio un giro hacia el aprendizaje automático en la década de 1990. Esto permitió a las máquinas aprender de los datos y mejorar con la experiencia, sin ser explícitamente programadas para cada tarea.
Hoy en día, la IA se utiliza en una amplia gama de aplicaciones, desde asistentes personales virtuales hasta diagnósticos médicos avanzados, pasando por sistemas de recomendación en plataformas de streaming, vehículos autónomos, etc. Está imbricada en la vida cotidiana en las sociedades avanzadas. Desde sus humildes comienzos en la teoría y la experimentación, la IA ha crecido hasta convertirse en una parte integral de la sociedad moderna, transformando industrias y afectando la vida cotidiana, para lo bueno y lo malo.
Su futuro, lleno de posibilidades ilimitadas, continúa siendo escrito por investigadores y desarrolladores en todo el mundo, y especialmente en las grandes multinacionales y organizaciones dependientes de los gobiernos de las principales potencias mundiales, dada la ingente cantidad de recursos de computación y económicos que requiere el entrenamiento de modelos con billones de parámetros.
La Inteligencia Artificial en la Seguridad de la Información
La integración de la inteligencia artificial (IA) en la seguridad de la información ha revolucionado la forma en que protegemos nuestros sistemas y datos.
La aplicación de la IA en la seguridad de la información comenzó a ganar terreno en las últimas décadas del siglo XX. A medida que internet y las tecnologías digitales se expandían, también lo hacían las amenazas, lo que impulsó la necesidad de sistemas de seguridad más avanzados.
Las primeras aplicaciones de IA en seguridad se centraron en la detección de patrones y anomalías. Los sistemas utilizaban algoritmos básicos para identificar comportamientos sospechosos o desviaciones de la norma, lo que ayudaba a detectar posibles amenazas.
Con el advenimiento del aprendizaje automático, la IA en seguridad de la información dio un salto significativo. Los sistemas podían aprender de grandes volúmenes de datos para identificar y predecir amenazas de manera más efectiva. Esto incluía la detección de malware, phishing, y otras formas de ciberataques, e incluso anomalías en procesos operativos (técnicas UEBA o de Process Mining).
La IA no solo mejoró la detección de amenazas, sino que también comenzó a facilitar respuestas automatizadas. Esto permitió a los sistemas de seguridad actuar rápidamente, a menudo en tiempo real, para mitigar o prevenir daños (SOAR basada en IA).
Aplicaciones actuales en ciberseguridad
Hoy en día, la IA se utiliza en seguridad con múltiples fines, como para predecir y prevenir ciberataques antes de que ocurran. Utilizando análisis predictivo y aprendizaje profundo, los sistemas pueden anticipar patrones de ataque y fortalecer las defensas de manera proactiva.
La IA permite personalizar las soluciones de seguridad según las necesidades específicas de una organización. Puede adaptarse continuamente a nuevos riesgos y evolucionar con el panorama cambiante de las amenazas. El lado negativo, es que los ataques también son cada vez más sofisticados y difíciles de discriminar debido al uso de las mismas tecnologías desde el lado oscuro.
Y con el crecimiento del Internet de las Cosas (IoT), la IA jugará un papel crucial en la protección de una gama aún más amplia de dispositivos y sistemas conectados.
Se espera que los sistemas de IA se vuelvan más sofisticados, con capacidades mejoradas de aprendizaje automático y la habilidad de autocorregirse y adaptarse a nuevas amenazas de manera más eficiente, aunque su efectividad real todavía no está del todo clara (recomiendo las reflexiones del célebre Dr. Alfonso Muñoz aquí).
Las aplicaciones futuras de la IA en seguridad de la información son y serán muy variadas: detección de amenazas y análisis de comportamiento, respuesta automatizada y orquestación, predicción de amenazas, identificación y autenticación biométrica, análisis de vulnerabilidades y pentesting automático, o defensa contra adversarios automatizados. De todo ello y más, se habla en el exhaustivo informe del CCN de más de 100 páginas BP/30 Aproximación a laInteligencia Artificial y la ciberseguridad – Buenas prácticas.
Por todo lo anterior y su vertiginoso avance en múltiples campos, la aplicación de IA en seguridad de la información enfrenta desafíos, entre ellos la no menos importante necesidad de equilibrar la seguridad con la privacidad.
Ley de IA
Al hilo de los desafíos de la IA y su uso ético, el Parlamento Europeo y el Consejo han llegado a un acuerdo provisional sobre la Ley de Inteligencia Artificial.
Este reglamento tiene como objetivo proteger los derechos fundamentales, la democracia, el estado de derecho y la sostenibilidad ambiental de los riesgos de la IA de alto riesgo, al mismo tiempo que fomenta la innovación y posiciona a Europa como líder en el campo. Las reglas establecen obligaciones para la IA basadas en sus riesgos potenciales y nivel de impacto. Se indican a continuación los aspectos más relevantes.
Considera aplicaciones prohibidas:
- Sistemas de categorización biométrica que utilizan características sensibles (como creencias políticas, religiosas, filosóficas, orientación sexual, raza).
- Análisis no dirigido de imágenes faciales de internet o de grabaciones de CCTV para crear bases de datos de reconocimiento facial.
- Reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
- Puntuación social basada en el comportamiento social o características personales.
- Sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío.
- IA utilizada para explotar las vulnerabilidades de las personas (debido a su edad, discapacidad, situación social o económica).
Excepciones para la Aplicación de la Ley:
Se acordaron salvaguardas y excepciones limitadas para el uso de sistemas de identificación biométrica en espacios públicamente accesibles con fines de aplicación de la ley, sujetos a autorización judicial previa y para listas de delitos definidas estrictamente.
Obligaciones para Sistemas de Alto Riesgo:
Para los sistemas de IA clasificados como de alto riesgo, se acordaron obligaciones claras, incluyendo una evaluación obligatoria del impacto en los derechos fundamentales. Los ciudadanos tendrán derecho a presentar quejas sobre sistemas de IA y recibir explicaciones sobre decisiones basadas en sistemas de IA de alto riesgo que afecten sus derechos.
Salvaguardas para Sistemas Generales de Inteligencia Artificial:
Se acordó que los sistemas de IA de propósito general y los modelos en los que se basan deben cumplir con requisitos de transparencia. Esto incluye la elaboración de documentación técnica, el cumplimiento de la ley de derechos de autor de la UE y la difusión de resúmenes detallados sobre el contenido utilizado para la capacitación.
Medidas para Apoyar la Innovación y las PYMEs:
Para garantizar que las empresas, especialmente las PYMEs, puedan desarrollar soluciones de IA sin la presión indebida de los gigantes de la industria, el acuerdo promueve los llamados «sandbox regulatorios» y pruebas en el mundo real.
Sanciones y Entrada en Vigor:
El incumplimiento de las reglas puede llevar a multas que van desde 35 millones de euros o el 7% del volumen de negocios global hasta 7.5 millones o el 1.5% del volumen de negocios, dependiendo de la infracción y el tamaño de la empresa.
Próximos Pasos:
El texto acordado ahora debe ser adoptado formalmente por el Parlamento y el Consejo para convertirse en ley de la UE. Los comités de Mercado Interior y Libertades Civiles del Parlamento votarán sobre el acuerdo en una próxima reunión.
Si te ha gustado, deja algún comentario o difúndelo para llegar a más gente 🙂
Y recuerda que tenemos disponible el formato de formación tradicional en nuestro curso de ciberseguridad GRC, o el de trabajo garantizado, en el que solo pagarás la totalidad si encuentras trabajo, y lo harás de manera cómoda: ¡te ayudaremos a buscarlo!
Stay secure,
ETD
