Karpathy: az emberi intuíció most a kutatási szűk kereszt
Karpathy azt mondja, hogy az AI‑kutatásban a tudományos eredmények könnyen mérhetőek, de a kutatók saját gondolkodása a legnagyobb akadály
Andrej Karpathy, a Tesla AI feje, a GPT‑2 tréningjét hónapokig kézi finomhangolás után egy éjszaka alatt egy autonóm ügynök vette át, amely olyan apró beállításokat fedezett fel, amiket ő maga nem észlelt volna.
Karpathy szerint a kutatóknak a mérhető eredmények területén ki kell hagyniuk magukat a döntési körbe, mert „az intuíciótól való elég kicsi függőség” akadályozza a fejlődést.
Az autonóm ügynök képes volt több beállítást egyidejűleg vizsgálni, ami az emberi agy számára nehezen átlátható, de a rendszerek számára világos, így a kutatók “automatizálják magukat” a saját munkájukból.
Karpathy rámutat, hogy a modellek javulnak a kódrészletezés és hasonló, könnyen ellenőrizhető feladatokban, de a kevésbé mérhető, „súlyosabb” területeken ez a fejlődés nem lesz szintekben átadott.
A következő lépés a kutatók számára, hogy a mérhető metrikákra fókuszáljanak, és a szubjektív intuíciót minimalizálják, ezzel hatékonyabbá téve az AI fejlesztést.