OpenAI má potíže při vývoju nového modelu Orion: Konec velkých skoků ve výkonnosti?

Zdroj obrázku: OpenAI

OpenAI je sice průkopník v oblasti umělé inteligence, ale přesto čelí nečekaným překážkám při vývoji svého nového modelu kódově označovaného jako Orion. Podle zpráv model vykazuje nedostatečnou výkonnost v určitých úlohách, zejména při programování, což je výrazný krok zpět oproti předchozím modelům, jako je GPT-4. Přestože v oblasti jazykových úloh, jako je překlad či generování textu, Orion stále exceluje, jeho celková výkonnost nepřináší očekávaný kvalitativní skok.

Problém s tréninkovými daty

Jednou z hlavních překážek je nedostatek kvalitních tréninkových dat. OpenAI se snaží tuto situaci řešit vytvořením speciálního týmu pro shromažďování základních dat, ale není jisté, zda se jim podaří získat dostatek informací před plánovaným spuštěním modelu. Tento problém není unikátní jen pro OpenAI – podobné obtíže zažívají i konkurenti, jako jsou společnosti Anthropic a Mistral, jejichž modely přinášejí jen minimální zlepšení s každou novou verzí.

Vyšší náklady a slabší zlepšení

Dalším významným faktorem je vysoká cena provozu Oriona ve srovnání s jeho předchůdci. Zatímco GPT-4 představoval velký skok oproti GPT-3, u Oriona je tento rozdíl mnohem méně výrazný. To vzbuzuje otázky, zda se zvyšující se náklady a úsilí vyplatí, pokud nenastane větší nárůst ve výkonnosti.

Dočasná řešení a budoucnost

Jedním z možných řešení by mohlo být ladění modelu po jeho uvedení na trh. Tato metoda, známá jako fine-tuning, by mohla zlepšit jeho výkonnost v konkrétních úlohách. Nicméně se jedná pouze o dočasný krok, nikoliv trvalé řešení problému s nedostatkem kvalitních tréninkových dat.

Vývoj umělé inteligence dosáhl fáze, kdy další pokroky nejsou tak snadné jako dříve. OpenAI a ostatní hráči na trhu nyní stojí před otázkou, jak prolomit tuto bariéru a opět přinést výrazné inovace.

Zdroj: https://www.gadgets360.com/ai/news/openai-orion-flagship-ai-model-struggling-outperform-older-models-gpt-4-coding-report-6991674, https://www.theinformation.com/articles/openai-shifts-strategy-as-rate-of-gpt-ai-improvements-slows