Hemos creado GPT-4, el último hito en el esfuerzo de OpenAI por ampliar el aprendizaje profundo. GPT-4 es un modelo multimodal grande (que acepta entradas de imágenes y texto, emite salidas de texto) que, si bien es menos capaz que los humanos en muchos escenarios del mundo real, exhibe un rendimiento a nivel humano en varios puntos de referencia profesionales y académicos.
Por ejemplo, aprueba un examen de abogacía simulado con una puntuación de alrededor del 10% de los mejores examinados; por el contrario, la puntuación de GPT-3.5 se situó en torno al 10% inferior. Hemos pasado 6 meses alineando iterativamente GPT-4 utilizando lecciones de nuestro programa de pruebas adversas, así como ChatGPT, lo que ha dado como resultado nuestros mejores resultados (aunque lejos de ser perfectos) en factibilidad, direccionabilidad y negativa a salirse de las barreras de seguridad.
Durante los últimos dos años, reconstruimos toda nuestra pila de aprendizaje profundo y, junto con Azure, codiseñamos una supercomputadora desde cero para nuestra carga de trabajo. Hace un año, entrenamos GPT-3.5 como una primera “ejecución de prueba” del sistema. Encontramos y solucionamos algunos errores y mejoramos nuestros fundamentos teóricos. Como resultado, nuestra ejecución de entrenamiento de GPT-4 fue (¡al menos para nosotros!) sin precedentes estable, convirtiéndose en nuestro primer modelo grande cuyo rendimiento de entrenamiento pudimos predecir con precisión de antemano. A medida que continuamos enfocándonos en un escalamiento confiable, nuestro objetivo es perfeccionar nuestra metodología para ayudarnos a predecir y prepararnos para capacidades futuras cada vez con mayor anticipación, algo que consideramos fundamental para la seguridad.
Estamos lanzando la capacidad de entrada de texto de GPT-4 a través de ChatGPT y la API (con una lista de espera ). Para preparar la capacidad de entrada de imágenes para una mayor disponibilidad, estamos colaborando estrechamente con un único socio.(Se abre en una nueva ventana)para comenzar. También ofrecemos evaluaciones OpenAI de código abierto(Se abre en una nueva ventana), nuestro marco para la evaluación automatizada del rendimiento del modelo de IA, para permitir que cualquiera informe deficiencias en nuestros modelos para ayudar a guiar futuras mejoras.
Capacidades
En una conversación informal, la distinción entre GPT-3.5 y GPT-4 puede resultar sutil. La diferencia surge cuando la complejidad de la tarea alcanza un umbral suficiente: GPT-4 es más confiable, creativo y capaz de manejar instrucciones mucho más matizadas que GPT-3.5.
Para comprender la diferencia entre los dos modelos, realizamos pruebas en una variedad de puntos de referencia, incluida la simulación de exámenes que fueron diseñados originalmente para humanos. Procedimos utilizando las pruebas más recientes disponibles públicamente (en el caso de las Olimpiadas y las preguntas de respuesta libre AP) o comprando las ediciones 2022-2023 de exámenes de práctica. No hicimos ninguna formación específica para estos exámenes. El modelo detectó una minoría de los problemas en los exámenes durante el entrenamiento, pero creemos que los resultados son representativos; consulte nuestro informe técnico.(Se abre en una nueva ventana)para detalles.
