Comportamiento y precisión del modelo

Zoom AI Companion está impulsado por una combinación de modelos de lenguaje grandes (LLMs) propietarios y de terceros, diseñados para proporcionar inteligencia contextual en los productos de Zoom. Las siguientes secciones describen las prácticas de Zoom respecto a los datos de entrenamiento, la gestión de alucinaciones y la optimización del rendimiento del sistema.

Zoom no utiliza contenido de clientes para el entrenamiento de modelos

Zoom sí no utiliza contenido de clientes similar a comunicaciones —como audio, chat, uso compartido de pantalla, pizarras o reacciones— para entrenar ningún modelo de Zoom ni de terceros.

Zoom entrena sus modelos utilizando:

• Datos de dominio público

• Conjuntos de datos de terceros comprados

• Materiales de entrenamiento creados por Zoom

Zoom revisa los conjuntos de datos para determinar si se obtuvieron de forma legal y si la licencia es aplicable al uso propuesto por Zoom. Tenga en cuenta que también usamos proveedores de modelos de terceros, como OpenAI y Anthropic, como parte de nuestro modelo federado. Consulte la información que proporcionen sobre datos de entrenamiento.

La IA generativa puede alucinar

Como ocurre con cualquier modelo generativo, AI Companion puede generar resultados que son factualmente incorrectos o irrelevantes (alucinaciones). Zoom recomienda revisar cuidadosamente los resultados. Zoom reduce las alucinaciones mediante:

• Probar los modelos con casos de uso reales

• Mejorar el contexto mediante generación aumentada por recuperación (RAG)

• Mejorar el soporte de idiomas con canalizaciones de traducción (p. ej., inglés a español)

El rendimiento de AI Companion se supervisa y ajusta

Zoom supervisa regularmente el rendimiento del modelo, realiza un seguimiento de métricas de calidad y actualiza los sistemas internos para mejorar la precisión y la transparencia. Aunque la explicabilidad está limitada por el diseño del modelo, las regresiones de rendimiento se abordan mediante ciclos de pruebas y actualizaciones.