El Auge de la Inteligencia Artificial en la Ciberseguridad

El uso de IA en ciberseguridad no es un concepto nuevo. Desde hace años, organizaciones y gobiernos han utilizado algoritmos avanzados para detectar intrusiones, analizar patrones de amenazas y proteger datos sensibles. No obstante, los mismos modelos que fortalecen la seguridad también pueden convertirse en herramientas poderosas para los cibercriminales. Gemini ha demostrado ser particularmente atractivo para los atacantes debido a su capacidad de procesamiento de lenguaje natural, generación de código y análisis predictivo.

Hackers Aprovechan la IA para Potenciar sus Ataques

Investigadores de la Universidad de California en San Diego han documentado una nueva técnica denominada “Fun-Tuning”, que permite a los atacantes manipular los modelos de IA mediante la inyección de prompts optimizados. Esta estrategia permite generar ataques automáticos contra sistemas cerrados como Gemini con una tasa de éxito mucho mayor que las técnicas manuales.

La inyección de prompts es un método que manipula los modelos de lenguaje mediante entradas maliciosas diseñadas para forzar a la IA a realizar acciones no intencionadas por sus desarrolladores. A diferencia de ataques tradicionales que requieren explotación de vulnerabilidades de software, esta técnica se centra en manipular la interpretación del lenguaje de la IA. Esto puede traducirse en la generación de respuestas falsas, la extracción de información confidencial y la alteración de datos críticos.

Cómo Funciona Fun-Tuning: Un Enfoque Algorítmico

Tradicionalmente, los ataques de inyección de prompts han sido desarrollados mediante prueba y error, lo que requiere un gran esfuerzo manual. Sin embargo, Fun-Tuning ha cambiado esta dinámica al emplear un método sistemático basado en optimización discreta. Este proceso funciona de la siguiente manera:

1. Se introduce una inyección de prompt básica en el modelo Gemini.
2. Un algoritmo analiza la respuesta de la IA y genera modificaciones aleatorias en la estructura del prompt.
3. Se realizan iteraciones automáticas para encontrar la combinación de prefijos y sufijos que aumenta la tasa de éxito del ataque.
4. Tras aproximadamente 60 horas de procesamiento, el algoritmo genera un prompt optimizado con una probabilidad significativamente mayor de manipular el modelo.

Lo alarmante de esta técnica es que aprovecha la API de ajuste fino de Gemini, un servicio ofrecido por Google de manera gratuita, lo que reduce drásticamente los costos y barreras de entrada para los atacantes.

Implicaciones de Seguridad: El Riesgo de los Modelos de Lenguaje Cerrados

La existencia de ataques exitosos contra Gemini plantea serias preocupaciones en la comunidad de ciberseguridad. Los modelos de lenguaje cerrados, como los de Google y OpenAI, han sido considerados más seguros debido a las restricciones impuestas en su acceso y entrenamiento. No obstante, la realidad muestra que estas barreras no son suficientes para evitar la manipulación de su comportamiento.

Los ataques basados en inyección de prompts pueden tener consecuencias devastadoras en diversos sectores, tales como:

• Finanzas: Alteración de cálculos financieros y manipulación de respuestas en plataformas de asesoramiento económico.
• Salud: Generación de diagnósticos falsos o manipulación de registros clínicos.
• Gobierno: Extracción de datos confidenciales o desinformación en sistemas de inteligencia.
• Tecnología: Creación de software malicioso y automatización de ataques dirigidos.

Respuestas y Contramedidas Ante la Amenaza

Ante el avance de este tipo de ataques, empresas y expertos en seguridad están trabajando para desarrollar estrategias de mitigación. Algunas de las principales acciones incluyen:

• Monitoreo Avanzado: Implementación de algoritmos de detección de anomalías en las respuestas generadas por modelos de IA.
• Validación de Entradas: Restricción y filtrado de comandos potencialmente maliciosos antes de que sean procesados por la IA.
• Auditoría y Transparencia: Mayor supervisión sobre el uso de APIs de ajuste fino para prevenir su explotación.
• Educación en Ciberseguridad: Sensibilización de desarrolladores y usuarios sobre los riesgos asociados con la manipulación de modelos de lenguaje.

El Futuro de la Seguridad en la Inteligencia Artificial

A medida que la IA continúa evolucionando, también lo harán las técnicas empleadas por actores malintencionados para explotarla. Si bien Gemini y otros modelos cerrados han sido diseñados con fuertes medidas de seguridad, es evidente que ningún sistema es completamente inmune a ataques sofisticados como Fun-Tuning.

Para mitigar estos riesgos, la colaboración entre el sector privado, gobiernos y comunidades académicas será fundamental. Solo a través de un enfoque integral que combine tecnología, regulación y educación en ciberseguridad se podrá garantizar un uso responsable y seguro de la inteligencia artificial.

​

The post Hackers Potencian sus Ataques con Gemini: La Nueva Amenaza en la Ciberseguridad appeared first on TecnoFuturo24.

La confirmación de la brecha de seguridad de NPD ocurrió la semana pasada, cuando se reveló que un total de 2.9 mil millones de líneas de datos habían sido comprometidas. Este enorme volumen de datos incluye información crítica como números de Seguro Social, y la filtración fue anunciada en la dark web en abril por el grupo de hackers USDoD, que pedía 3.5 millones de dólares por la base de datos robada. Desde entonces, los datos han sido accesibles públicamente en varias plataformas.

Recientemente, Krebs On Security reportó que un sitio web llamado recordscheck.net, muy similar a NPD, estaba albergando un archivo que contenía inicios de sesión y código fuente en texto plano. Este archivo, que ya ha sido eliminado, incluía también correos electrónicos del fundador de NPD, Salvatore Verini. La existencia de estos datos en texto plano habría permitido el acceso a los mismos registros de consumidores comprometidos en la brecha de seguridad de NPD.

En respuesta a la filtración, Verini afirmó en un intercambio de correos con Krebs On Security que el archivo contenía una versión antigua del sitio web con “código no funcional” y que el sitio cesará operaciones en el corto plazo. La falta de detalles adicionales se debe a una “investigación activa”. Además, se descubrió que Verini había escrito un testimonio positivo para Creation Next, una empresa de desarrollo web mencionada en el código fuente filtrado.

La reciente filtración de contraseñas en texto plano y otros datos sensibles subraya la creciente necesidad de robustecer las medidas de seguridad en la protección de información personal. Con la proliferación de sitios que ofrecen verificar si la información personal ha sido comprometida, como npdbreach.com y npd.pentester.com, es crucial tomar precauciones. Los expertos recomiendan congelar los informes de crédito con las principales agencias (Equifax, Experian y TransUnion) y aprovechar los informes de crédito gratuitos semanales disponibles. La situación destaca la importancia de mantener actualizadas las prácticas de seguridad para protegerse contra futuras violaciones de datos.

The post Filtración de Contraseñas en Texto Plano appeared first on TecnoFuturo24.

En noviembre, Microsoft lanzó la Iniciativa de Futuro Seguro (SFI) luego de presiones para contrarrestar los ataques de hackers chinos a cuentas de correo electrónico del gobierno de EE. UU. Sin embargo, los hackers rusos lograron infiltrarse en la defensa de Microsoft y acceder a cuentas de correo electrónico del equipo directivo. Estos incidentes llevaron a un análisis crítico que concluyó que Microsoft podría haber evitado los ataques anteriores y destacó una serie de fallas de seguridad.

“La seguridad es nuestra principal prioridad en Microsoft, por encima de todas las demás características”, afirmó Charlie Bell, vicepresidente ejecutivo de seguridad de la empresa. Los nuevos principios de seguridad, como “seguro por diseño” y “seguro por defecto”, se centran en mejorar los controles y la monitorización para enfrentar las amenazas actuales y futuras.

Estos objetivos, vinculados a la compensación del liderazgo de Microsoft, son una respuesta directa a las recientes intrusiones de hackers y a las recomendaciones de la Junta de Revisión de Seguridad Cibernética. La empresa coordina a sus equipos de ingeniería para completar estos cambios en toda la organización, y ya ha logrado avances significativos, como la implementación de la autenticación multifactor en más de 1 millón de sus inquilinos.

Además, Microsoft está reforzando su cultura de seguridad mediante reuniones operativas y la incorporación de subdirectores de seguridad de la información en cada equipo de producto. Estas acciones reflejan el compromiso de la empresa de mantener la confianza de sus usuarios y proteger su infraestructura y servicios en línea.

The post Microsoft prioriza la seguridad tras informe crítico de la Junta de Seguridad Cibernética de EE. UU. appeared first on TecnoFuturo24.

Los equipos de ingeniería y seguridad de Microsoft se han visto abrumados por la respuesta a los ataques de hackers rusos patrocinados por el estado, conocidos como Nobelium o Midnight Blizzard. Estos ataques han expuesto vulnerabilidades en la infraestructura de correo electrónico de la compañía y han llevado al robo de código fuente, generando incertidumbre y preocupación entre los líderes de la empresa.

Las violaciones de seguridad anteriores, incluidos los ataques de hackers chinos a los servidores de Microsoft Exchange y los correos electrónicos del gobierno de EE. UU., han ampliado aún más las brechas en la seguridad de Microsoft. La falta de una cultura corporativa centrada en la seguridad ha sido identificada como un factor contribuyente clave en estas fallas de seguridad.

Para abordar estas preocupaciones, Microsoft ha lanzado la Iniciativa de Futuro Seguro (SFI), una revisión integral de sus prácticas de diseño, construcción y operación de software y servicios. Sin embargo, la implementación pública de esta iniciativa ha sido limitada, lo que plantea interrogantes sobre su efectividad para reconstruir la confianza del cliente.

En resumen, Microsoft se enfrenta a desafíos significativos en materia de seguridad cibernética que han erosionado la confianza del cliente en la empresa. Si bien ha tomado medidas para abordar estas preocupaciones a través de iniciativas como la SFI, el camino hacia la reconstrucción de la confianza perdida será largo y requerirá un enfoque exhaustivo en la mejora de la seguridad en todas las áreas de la empresa.

The post Microsoft: Necesita Reconstruir su Confianza en Seguridad Cibernética appeared first on TecnoFuturo24.

¿Cómo ocurrió esto? Los hackers utilizaron una técnica conocida como “relleno de credenciales”, donde aprovecharon información obtenida de violaciones de datos anteriores para intentar acceder a cuentas de Roku. Una vez dentro, intentaron realizar compras de suscripciones de streaming, causando preocupación entre los usuarios.

Las consecuencias podrían ser graves. Si tu cuenta de Roku tenía información de tarjeta de crédito almacenada, es posible que los hackers hayan realizado compras no autorizadas en servicios como Netflix, Max, Paramount Plus, Hulu, Peacock, Disney Plus, entre otros. Además, se ha descubierto que los hackers están vendiendo la información robada en un mercado negro, lo que aumenta el riesgo de más ataques.

Afortunadamente, Roku asegura que no se revelaron números de seguridad social, números de cuenta de pago completos ni fechas de nacimiento. Sin embargo, para garantizar la seguridad de los usuarios, se recomienda encarecidamente cambiar las contraseñas de las cuentas afectadas y monitorear cualquier actividad sospechosa.

No te arriesgues. Incluso si no crees haber sido afectado, es fundamental verificar si tus credenciales han sido expuestas recientemente utilizando herramientas como HaveIBeenPwned. Además, considera cambiar tu contraseña de Roku como medida de precaución.

Mantente informado y protegido ante posibles amenazas cibernéticas. En TecnoFuturo24.com te mantendremos actualizado con las últimas noticias y consejos de seguridad.

The post ¡Alerta de seguridad! Hackers comprometen 15,000 cuentas de Roku y las ponen en venta appeared first on TecnoFuturo24.