Vea todas las sesiones bajo demanda de la Cumbre de Seguridad Inteligente aquí.
Es IA generativa bueno para los equipos de seguridad? Desde el lanzamiento de ChatGPT en noviembre, ha habido un intenso debate sobre si la inteligencia synthetic (IA) inclinará el panorama de amenazas a favor de los actores de amenazas o los defensores.
Hay una guerra de IA ofensiva versus defensiva en curso donde los ciberdelincuentes pueden usar tecnologías como IA generativa para generar código malicioso, mientras que los equipos de seguridad pueden usarlo para identificar vulnerabilidades.
Recientemente, VentureBeat realizó una sesión de preguntas y respuestas con David Reber, director de seguridad de nvidia y ex director sénior de ciberseguridad en Nutanix. Compartió sus pensamientos sobre el impacto que la IA generativa y las herramientas como ChatGPT tendrán en el panorama de amenazas en 2023.
A continuación se muestra una transcripción editada:
VB: ¿Por qué se necesita IA para detener las ciberamenazas impulsadas por IA?
Reber: Comprender las limitaciones de su adversario le brinda información sobre dónde puede o no ir a continuación. Una de las limitaciones tradicionales del adversario fue adaptar los ataques a escala y el conocimiento.
Con los avances en IA generativa, los ataques precisos y dirigidos están al alcance de los atacantes menos sofisticados.
La escala de la máquina es la competencia. La velocidad y la complejidad de los ataques superan la capacidad humana. Aquí es donde entra en juego la IA para el defensor. ¿Cómo usamos sus herramientas contra ellos? Es un juego del gato y el ratón que siempre estará presente. Adaptación continua en ambos lados, ahora adaptándose a escala de máquina.
VB: ¿Qué desafíos enfrentan los equipos de seguridad cuando usan IA defensiva contra IA ofensiva?
Reber: Hace una década, la industria giró hacia una estrategia de “asumir incumplimiento”. Reconocimos la dicotomía de que el adversario debe tener razón una vez, mientras que la defensa debe tener razón todas las veces.
Nuestros adversarios entienden nuestras limitaciones: capacidad humana, regulaciones, prioridades competitivas. A medida que continuamos enfrentándonos a mayores regulaciones de prácticas cibernéticas comerciales, la necesidad de hacerlo bien se agrava.
El desafío con la IA es fundamentalmente la confianza. ¿Cómo sabemos que funciona para centrar la capacidad humana en otra parte? Fundamentalmente es IA hasta que confiamos en ella, entonces se convierte en automatización.
Tenemos un automóvil autónomo, pero ¿confiamos en él para llegar a nuestro destino? La ofensiva está en un derby de demolición. Mientras tengan un impacto, ellos ganan. No tienen reglas, límites ni la supervisión authorized para obstaculizar en caso de que algo salga mal.
VB: ¿Cómo pueden los CISO/líderes de seguridad aprovechar la IA para ‘superar’ los usos de la IA maliciosa?
Reber: Se estima que habrá más de 14 000 millones de dispositivos conectados a Web en 2022. Para evitar el uso de IA maliciosa, los líderes de seguridad deben ser menos interesantes que el objetivo promedio o aumentar el costo del ataque. Mientras estamos en la fase formativa de la IA generativa, podemos observar las tácticas de pérdida tradicionales.
Cree un objetivo más interesante en su crimson, (a) honeypot, que sabe cómo interactuar a cambio. El objetivo es obligar al adversario a hacer más ruido y perder tiempo con agentes menos valiosos. Enmascarar datos falsos como propiedad intelectual. Es una batalla de engaño. El juego no ha cambiado, los juguetes son simplemente diferentes.
Reber: Democratizará la seguridad ofensiva. Anteriormente, la ofensiva estaba limitada por la adaptación en tiempo actual a escala y el conocimiento técnico. ChatGPT tiene el potencial de eliminar este issue limitante.
Producirá una nueva generación de script kiddies, más una flota de immediate kiddies. Las limitaciones del adversario ahora se eliminan. También es una oportunidad para que el defensor pronostique lo que viene. Mira alrededor de los rincones aún no explorados en su superficie de ataque.
Reber: El mercado está inundado de soluciones de nicho. Todos están tratando de encontrar su pieza de la próxima generación de computación. Con la situación económica precise, todos necesitamos encontrar maneras de hacer más con menos. Esto conducirá a una mayor unificación de las pilas de tecnología y menos inversiones en herramientas de soluciones puntuales.
La historia continúa enseñándonos el poder de la defensa colectiva. A medida que nos embarcamos en la nueva generación de ofensiva democratizada, debemos unirnos como ecosistema.
La interoperabilidad para el intercambio de información de transporte es la forma en que nos adelantamos al adversario. Si eres uno entre 14 mil millones, comparte tus conocimientos. Permita que la industria se mueva más rápido que el adversario.
La misión de VentureBeat es ser una plaza pública digital para que los responsables de la toma de decisiones técnicas adquieran conocimientos sobre tecnología empresarial transformadora y realicen transacciones. Descubre nuestras sesiones informativas.
