Zatímco někteří volají po pozastavení vývoje generativní umělé inteligence, Jensen Huang, zakladatel a generální ředitel společnosti NVIDIA,… Argument pro urychlení prácePokroky v oblasti umělé inteligence poskytnou nástroje pro lepší pochopení technologie a zvýšení bezpečnosti, řekl Huang v diskusi s Goldman Sachs Asset Management. Ze zprávy: „Potřebujeme co nejrychleji urychlit vývoj umělé inteligence a důvodem je to, že bezpečnost vyžaduje technologii,“ řekl Huang v rozhovoru na fóru se Song Zhou, spoluvedoucí investic do technologického kapitálu v GSAM.
Huang navrhl, abychom vzali v úvahu, jak bezpečná jsou dnešní osobní auta ve srovnání s vozy předchozích generací, protože technologie pokročila. Jako příklad uvedl, jak ChatGPT od OpenAI využívá Reinforcement Learning from Human Feedback (RLHF) k vytvoření mantinelů, díky nimž jsou jeho odpovědi relevantnější, přesnější a vhodnější.
Samotný RLHF je modelem umělé inteligence, který sedí kolem základního modelu umělé inteligence. Hwang uvádí příklady dalších technologií umělé inteligence, které slibují, že budou modely bezpečnější a efektivnější. Ty sahají od generování získávání výztuže, kdy model získává informace ze specifické znalostní báze nebo sady dokumentů, až po učení výztuže založené na fyzice, které zakládá model na fyzikálních principech a omezeních. „Potřebujeme více takových technologií,“ řekl Huang.
„Přátelský průkopník popkultury. Hodně padá. Sociální média geek. Obecný fanatik do kávy. Televizní nadšenec. Potížista.“
