informe de Kaspersky analiza cómo la IA fortalece la defensa y plantea riesgos

La Inteligencia Artificial, un arma de doble
filo:
Expertos de la compañía exploran las implicaciones que tendrá el uso de esta herramienta,
tanto por parte de atacantes como de expertos en ciberseguridad
Enero de 2024
La Inteligencia Artificial fue la gran protagonista en la reciente feria internacional de tecnología
CES, celebrada la semana en Las Vegas: desde cepillos de dientes, parillas de barbacoa hasta
carros ahora integran esta tecnología de una forma u otra. Ante la proliferación de su uso, los
expertos de Kaspersky realizaron un análisis sobre la gran influencia de la IA en el panorama de
ciberseguridad, explorando sus implicaciones y centrándose en el uso que, tanto los defensores
y reguladores como los ciberdelincuentes, pueden darle a esta herramienta.
La investigación de Kaspersky detalla cómo evolucionará el panorama de las amenazas relacionadas
con la IA y reitera la importancia de contar con un marco regulatorio que permita el uso responsable de
esta herramienta. Los aspectos más relevantes del estudio "El Impacto de la IA en la ciberseguridad"
están a continuación:
Vulnerabilidades más complejas
A medida que los Modelos de Lenguaje a Gran Escala (LLMs por sus siglas en inglés) se integran en
más productos orientados al consumidor, surgirán nuevas vulnerabilidades complejas en la intersección
de la IA generativa probabilística y las tecnologías deterministas tradicionales, ampliando la superficie de
ataque que los profesionales de la ciberseguridad deben proteger. Esto requerirá que los programadores
estudien nuevas medidas de seguridad, como la aprobación del usuario para las acciones que inician los
agentes de LLMs que básicamente son los sistemas de IA para entender y generar texto de manera
similar a cómo hacemos los seres humanos.
Un asistente integral de IA para los especialistas en ciberseguridad
Los investigadores y miembros del Red Team se valen de la IA generativa para crear herramientas
innovadoras de ciberseguridad, lo que, potencialmente, llevaría a tener un asistente que utilice el LLM o
el Aprendizaje Automático (ML, por sus siglas en inglés). Esta herramienta podría automatizar las tareas
del Red Team, ofreciendo orientación basada en órdenes ejecutadas en un entorno de pentesting
(ejercicio de prevención en el que un experto en ciberseguridad intenta encontrar y explotar
vulnerabilidades en un sistema informático).
Las redes neuronales se utilizarán cada vez más para generar imágenes que ayuden a las estafas
Este año, los estafadores podrían ampliar sus tácticas utilizando redes neuronales, para crear un
contenido fraudulento más convincente aprovechando las herramientas de inteligencia artificial. Con la
posibilidad de generar sin esfuerzo imágenes y videos convincentes, los agentes maliciosos plantean un
mayor riesgo de intensificar las amenazas cibernéticas relacionadas con fraudes y estafas.

La IA no se convertirá en un motor de cambios revolucionarios en el panorama de amenazas
durante 2024
A pesar de las tendencias anteriores, los expertos de Kaspersky siguen siendo escépticos respecto a
que la IA cambie significativamente el panorama de amenazas en el corto plazo. Aunque los
ciberdelincuentes adoptarán la IA generativa, lo mismo ocurre con los ciberdefensores, quienes utilizarán
las mismas herramientas, o incluso otras más avanzadas, para probar la mejora de la seguridad en el
software y las redes, lo que hace poco probable que alteren drásticamente el panorama de los ataques.
Más iniciativas regulatorias relacionadas con la IA con la contribución del sector privado
Con su rápido desarrollo, la tecnología se ha convertido en un asunto de formulación de políticas y
regulación. Está previsto que aumente el número de iniciativas regulatorias relacionadas con la IA. Los
agentes que no son estatales, como es el caso de las empresas de tecnología, dada su experiencia en el
desarrollo y uso de la Inteligencia Artificial, pueden proporcionar conocimientos invaluables para los
debates sobre la regulación de la IA en las plataformas, tanto globales como nacionales.
Marca de agua para contenido generado por IA
Se necesitarán más regulaciones, así como las políticas de los proveedores de servicios, para señalar o
identificar el contenido sintético, y estos últimos deben seguir invirtiendo en tecnologías de detección.
Los programadores e investigadores, por su parte, contribuirán en la creación de métodos de marca de
agua para facilitar la identificación y procedencia de los medios sintéticos.
“La Inteligencia Artificial en ciberseguridad es un arma de doble filo. Sus capacidades adaptativas
fortalecen nuestras defensas y ofrecen un escudo proactivo contra las amenazas en evolución. Sin
embargo, ese mismo dinamismo plantea riesgos, ya que los atacantes aprovechan la IA para diseñar
ataques más complejos. Lograr el equilibrio adecuado, garantizar un uso responsable sin compartir
demasiados datos confidenciales, es primordial para proteger nuestras fronteras digitales”, comenta
Vladislav Tushkanov, experto en seguridad de Kaspersky.
Este análisis exhaustivo, que forma parte del Boletín de seguridad de Kaspersky (KSB), es una
recopilación anual de predicciones e informes detallados que ilustran cambios clave en el dinámico
campo de la ciberseguridad. El estudio completo puede consultarse aquí.

Acerca de Kaspersky
Kaspersky es una empresa global de ciberseguridad y privacidad digital fundada en 1997. La profunda
experiencia de Kaspersky en inteligencia de amenazas y seguridad se transforma constantemente en
soluciones y servicios de seguridad innovadores para proteger a empresas, infraestructuras críticas,
gobiernos y consumidores en todo el mundo. El amplio portafolio de seguridad de la compañía incluye
una protección de endpoints líder y una serie de soluciones y servicios de seguridad especializados, así
como soluciones de ciber inmunidad para combatir las amenazas digitales más avanzadas y en
evolución. Más de 400 millones de usuarios están protegidos por las tecnologías de Kaspersky y
ayudamos a 220,000 clientes corporativos a proteger lo que más valoran. Obtenga más información en
https://latam.kaspersky.com