¿Qué es una ficha?
Puede pensar en los tokens como partes de palabras utilizadas para el procesamiento del lenguaje natural. Para texto en inglés, 1 token tiene aproximadamente 4 caracteres o 0,75 palabras. Como punto de referencia, las obras completas de Shakespeare tienen unas 900.000 palabras o 1,2 millones de fichas.
¿Qué modelo debo usar?
Si bien Davinci (text-davinci-003) es generalmente el modelo más capaz, los otros modelos pueden realizar ciertas tareas extremadamente bien y, en algunos casos, significativamente más rápido. También tienen ventajas de costos. Por ejemplo, Curie puede realizar muchas de las mismas tareas que Davinci, pero más rápido y a 1/10 del costo. Alentamos a los desarrolladores a experimentar para encontrar el modelo más eficiente para su aplicación. Visite nuestra documentación para ver una comparación de modelos más detallada.
¿Cómo sabré cuántos tokens he usado cada mes?
Inicie sesión en su cuenta para ver su panel de control de uso. Esta página mostrará cuántos tokens ha utilizado durante los ciclos de facturación actuales y pasados.
¿Cómo puedo administrar mis gastos?
Puede establecer un límite de uso estricto en su configuración de facturación, después del cual dejaremos de cumplir con sus solicitudes. También puede configurar un umbral suave para recibir una alerta por correo electrónico una vez que exceda un determinado umbral de uso. Puede haber un retraso en la aplicación del límite y usted es responsable de cualquier excedente incurrido. Recomendamos revisar su panel de uso regularmente para monitorear sus gastos.
¿La API de ChatGPT está incluida en la suscripción de ChatGPT Plus?
No, la API de ChatGPT y la suscripción a ChatGPT Plus se facturan por separado. La API tiene su propio precio. La suscripción a ChatGPT Plus solo cubre el uso del chat y cuesta $20 al mes.
¿Usar Playground cuenta contra mi cuota?
Sí, tratamos el uso de Playground de la misma manera que el uso normal de la API.
¿Cómo se calcula el precio de las terminaciones?
Las solicitudes de finalización se cobran en función de la cantidad de tokens enviados en su aviso más la cantidad de tokens en la(s) finalización(es) devuelta(s) por la API.
Los parámetros best_of y n también pueden afectar los costos. Dado que estos parámetros generan múltiples finalizaciones por solicitud, actúan como multiplicadores en la cantidad de tokens devueltos.
Su solicitud puede usar hasta num_tokens(prompt) + max_tokens * max(n, best_of) tokens, que se cobrarán según las tarifas por motor descritas en la parte superior de esta página.
En el caso más simple, si su solicitud contiene 10 tokens y solicita un solo relleno de 90 tokens del motor davinci, su solicitud utilizará 100 tokens y costará $ 0.002.
Puede limitar los costos reduciendo la duración de la solicitud o la duración máxima de la respuesta, limitando el uso de best_of/n , agregando secuencias de parada adecuadas o utilizando mecanismos con costos por token más bajos.
¿Cómo se calcula el precio del ajuste fino?
Hay dos componentes para ajustar los precios: capacitación y uso.
Al entrenar un modelo ajustado, el total de tokens utilizados se cobrará a nuestras tarifas de entrenamiento. Tenga en cuenta que la cantidad de tokens de capacitación depende de la cantidad de tokens en su conjunto de datos de capacitación y la cantidad elegida de épocas de capacitación. El número predeterminado de épocas es 4.
(Tokens en su archivo de entrenamiento * Número de épocas de entrenamiento) = Tokens de entrenamiento totales
Después de ajustar una plantilla, solo se le cobrará por los tokens que use. Las solicitudes enviadas para plantillas ajustadas se cobran según nuestras tarifas de uso.
¿Hay un SLA en los distintos modelos?
Publicaremos un SLA en breve. Mientras tanto, puede visitar nuestra página de estado para monitorear la disponibilidad del servicio y ver el tiempo de actividad histórico. Si su empresa o aplicación tiene requisitos específicos, comuníquese con nuestro equipo de ventas.
¿La API está disponible en Microsoft Azure?
Sí. Los clientes de Azure pueden acceder a la API de OpenAI en Azure con el cumplimiento, el soporte regional y la seguridad de nivel empresarial que proporciona Azure.