OpenAI Control Room диэн 35 сөкүүндэҕэ чинчийии моделларын тохтотор «стоп-кранын» ойуулаата
OpenAI этэринэн, агент чинчийиитин хас биирдии сорудаҕа билигин киин Control Room сулууспатыгар бэлиэтэнэр. Сулууспа «стоп» хамаанда кэнниттэн 35 сөкүүндэттэн хойутаабакка модель тахсыытын тохтотор, оттон бэйэтэ алдьаннаҕына чинчийии инференсин барытын бобор.
OpenAI Control Room диэн иһинээҕи тиһигин техническэй ойуутун бэчээттээтэ. Тиһик хампаанньа чинчийии инфраструктуратыгар моделлаах сорудахтары кэтиир уонна куттал суох буолуутугар суостаах түгэҥҥэ тохтотор. ChatGPT-ны уонна аһаҕас API-ны үлэлэтэр туспа тиһиктэри хаппат.
Хайдах үлэлиирий
- Агент инференстээх хас биирдии чинчийии сорудаҕа бигэргэтиллибит куттал суох буолуутун олоҕугар (safety case) сибээстээх буолуохтаах уонна Control Room-тан сорудах идентификаторын ылыахтаах.
- Сорудах моделтан хоруй көрдөөтөҕүнэ, инференс двигателэ бастаан Control Room-у кытта тэҥнэһэр. Киһи эбэтэр монитор сорудаҕы тохтотуллубут диэн бэлиэтээбит буоллаҕына, двигатель аккаастыыр.
- Чинчийии процеһа бэйэтэ үлэлии туруон сөп, ол эрээри модельтан саҥа хоруй ылбат.
OpenAI быһаарарынан, бэрэбиэркэ инференс таһымыгар киллэриллибит, тоҕо диэтэххэ чинчийии кода куруутун уларыйар. Хампаанньа этэринэн, «сорудах кода бэйэтэ үлэлии турарын сөпкө бэрэбиэркэлиэ диэн эрэммэппит».
35 сөкүүндэ уонна «сабыллыбыт туруккка тохтооһун»
«Стоп» хамаанда Control Room-ҥа кэлиититтэн тахсыы тохтуор диэри саамай уһун тардыы — 35 сөкүүндэ; кини авторизация кэшиттэн тахсар, OpenAI ону нуулга тиэрдэргэ үлэлиир. Бу сыыппараҕа кыһалҕаны булар бириэмэ киирбэт. Тиһик fail closed быһыытынан үлэлиир: Control Room араҕыннаҕына, ол иһигэр куһаҕан санаалаах киһи орооһуутуттан, моделларга көрдөһүүлэр бары аккаастанар. OpenAI этэринэн, бу инники кэчээ моделлар чинчийиилэригэр үлэлии турар, хаалбыттарыгар чугастааҕы күннэргэ тарҕаныа.
Ойуу OpenAI бэйэтиттэн тахсар, тутулуга суох аудиканан бэрэбиэркэлэммэтэх.