Það var áhugavert að sjá að OpenAI rúllaði nýjustu útgáfu af ChatGPT 4o líkaninu til baka eftir að í ljós kom að það reyndist of mikill smjaðrari.
ChatGPT gerði gjörsamlega allt til þess að þóknast notendum, hvort sem það var að skjalla þá eða að hvetja þá til þess að fylgja sinni eigin sannfæringu, jafnvel þótt það þýddi morð eða að hætta að taka lífsnauðsynleg lyf.
Internetið logaði.
OpenAI brást við með því að draga líkanið til baka og þegar leið á vikuna var gefin út ítarleg krufningarskýrsla á því hvað klikkaði. Hlekkur í kommentum.
Við krufninguna kom í ljós að í uppfærslunni var aukið vægi á („thumbs-up/down“) endurgjöf notenda með þumlum, ásamt fleiri nýjum þáttum sem óvart gerðu líkanið of upptekið af því að þóknast notendum. Þetta leiddi til þess að svörin urðu óeðlilega sammála og jafnvel óheiðarleg, og prófunarferlið náði ekki að greina vandann áður en uppfærslan fór í loftið.
Notendur á Reddit bentu á að módelið hefði sjaldan fengið jafn mikið af 5 stjörnu endurgjöfum á app-stores, svo að já-mennskan hjá ChatGPT hefur fallið í kramið hjá sumum.
Urðuð þið var við þetta?
Greining OpenAI á vandanum: Expanding on sycophancy.
