OpenAI, respaldado por Microsoft (MSFT, Financials), está implementando nuevas estrategias para mejorar su próximo maniquí de lengua vasto, cuyo nombre en código es Orion, que supuestamente muestra solo ganancias de rendimiento marginales sobre ChatGPT-4, según un mensaje de The Information.
Según personas familiarizadas con las circunstancias, la investigación muestra que los avances de Orion son menores que los de iteraciones pasadas, incluido el brinco de GPT-3 a GPT-4.
La disponibilidad restringida de datos de entrenamiento de ingreso calidad, que ya es cada vez más escasa desde que los desarrolladores de IA ya han manejado la mayoría de los datos disponibles, es un determinante importante de la desaceleración del expansión declarada. El entrenamiento de Orion ha incluido datos sintéticos y contenido generado por IA, lo que obliga al maniquí a mostrar rasgos similares a los de sus antepasados.
OpenAI y otros equipos están aumentando el entrenamiento sintético con aportes humanos para ayudar a aventajar estas limitaciones. Los evaluadores humanos evalúan modelos planteando desafíos de codificación y resolución de problemas, perfeccionando las soluciones a través de comentarios iterativos.
OpenAI incluso está trabajando con otras empresas como Scale AI y Turing AI para realizar este descomposición más íntegro, dijo The Information.
“Para preguntas de conocimiento caudillo, se podría argumentar que por ahora estamos viendo una meseta en el desempeño de los LLM”, dijo Ion Stoica, cofundador de Databricks, en el mensaje. Necesitamos datos fácticos y los datos sintéticos no ayudan tanto.
Como señaló el director ejecutor de OpenAI, Sam Altman, a principios de este mes, las restricciones de potencia informática son incluso otro obstáculo para mejorar las capacidades de la IA.
Microsoft, en sus resultados más recientes del primer trimestre fiscal, informó unos ingresos netos de 24.670 millones de dólares, un 10,66% más que el año antecedente, y unas ventas de 65.580 millones de dólares, un aumento interanual del 16%. A 3,30 dólares, las ganancias por bono reflejaron un aumento del 10,37%.
Este artículo apareció por primera vez en GuruFocus.
p0g">Source link