Tecnología Actual

  Una nueva investigación de seguridad vuelve a poner en duda las barreras que utilizan los asistentes de inteligencia artificial para impedir que instrucciones maliciosas accedan a información privada. Investigadores de Adversa descubrieron una técnica denominada inyección de contexto criptográfico que puede utilizar contenido cifrado para intentar eludir determinados controles de seguridad de un modelo de IA. En las pruebas descritas, el método fue utilizado contra Grok para conseguir que el sistema procesara instrucciones que podían terminar exponiendo información del usuario. El hallazgo es especialmente importante porque muestra que proteger una inteligencia artificial no consiste únicamente en revisar lo que el usuario escribe. El problema no siempre está en la pregunta que recibe la IA Los modelos de lenguaje pueden recibir información desde muchas fuentes además de una conversación directa. Un asistente puede analizar una página web, resumir un documento, interpretar un co...

  Grok es un chatbot de IA generativa desarrollado por la empresa de Elon Musk, xAI. Está diseñado para ser informativo e ingenioso, ofreciendo una experiencia única en comparación con otros chatbots. Aquí hay un desglose de los puntos clave: 💥Giro de código abierto: a diferencia de los anuncios iniciales, Grok se convirtió en un proyecto de código abierto en marzo de 2024. Esto significa que cualquiera puede acceder y modificar el código detrás de Grok, lo que potencialmente acelera su desarrollo a través de la colaboración comunitaria. 💥Desafío OpenAI: este enfoque de código abierto se considera un desafío para OpenAI, otra empresa de inteligencia artificial con un popular chatbot llamado ChatGPT. El desarrollo de código abierto podría impulsar el crecimiento de Grok. 💥Acceso a información en tiempo real: una característica clave es la capacidad de Grok para acceder a información en tiempo real a través de la plataforma de redes sociales X. Esto le permite responder preguntas ...