OpenAI anunció una nueva característica que, según dice, brindará protección adicional contra ataques de inyección rápida, donde las instrucciones maliciosas del chatbot se ocultan en páginas web y otras fuentes de contenido.
Entre otras cosas, el modo de bloqueo deshabilitará la navegación web en vivo (para que solo pueda acceder al contenido almacenado en caché), la recuperación y visualización de imágenes de la web (aún puede generar imágenes), la investigación profunda y el modo agente.
La compañía dice que incluso con el modo de bloqueo activado, ChatGPT aún podría ser vulnerable a inyecciones rápidas, que podrían, por ejemplo, «aparecer en contenido web almacenado en caché o en un archivo cargado, y aún podrían afectar el comportamiento o la precisión de una respuesta».
Pero el objetivo es reducir la probabilidad de que se compartan datos confidenciales en el proceso.
“El modo de bloqueo es no «Está destinado a todos», dice OpenAI. «Está diseñado para personas y organizaciones que manejan datos confidenciales y desean una protección más estricta contra los riesgos de filtración de datos relacionados con la inyección rápida».
La compañía dice que actualmente está implementando el modo de bloqueo para cuentas comerciales de ChatGPT de autoservicio, así como para cuentas personales elegibles.
