OpenAI-оос гарч Anthropic компанид ажиллахаар очсон хиймэл оюун ухааны судлаач AI загваруудыг өөрийгөө сайжруулах чадвартай болгох өрсөлдөөнд хоёр компани хоёулаа “бидний амьдралаар дэнчин тавьж байна” хэмээн буруутгаад салбарынхаа ажлыг орхихоор шийджээ.
27 настай Жейкоб Коксон сүүлийн гурван жилийн хугацаанд AI загваруудын урьдчилсан сургалт дээр ажиллаж эхлээд OpenAI-д, дараа нь энэ онд түүний өрсөлдөгч гэгддэг Anthropic-т ажиллажээ. Тэрээр Anthropic-ийг AI хөгжүүлэлтэд илүү болгоомжтой ханддаг компани гэж үзэж байсан байна.
Урьдчилсан сургалт гэдэг нь AI загварууд асар их хэмжээний өгөгдлийг шингээн суралцдаг үе шат юм.
“Аль ч компани хариуцлагатай ажиллаагүй. Тэд өөрийгөө сайжруулдаг супер оюун ухаанд хүрэхийн төлөө шууд уралдаж, бидний амьдралаар дэнчин тавьж байна” гэж Коксон хэлжээ.
“AI бүтээж байгаа хүмүүс энэ арван жилийн эцэс гэхэд хиймэл оюун ухаан биднийг бүгдийг устгаж болзошгүй гэдэгт чин сэтгэлээсээ итгэдэг” гэж тэр X платформд нийтэлсэн байна.
“Энэ бол маркетингийн жүжиг биш” гэж тэр нэмж хэлжээ.
Супер оюун ухаан гэдэг нь онолын хувьд AI-ийн чадвар хүний оюун ухааны түвшнээс давсан үеийг хэлдэг.
Anthropic-ийн AI аюулгүй байдлын асуудал хариуцсан удирдах ажилтан Эван Хубингер мөн X платформд Коксоны байр суурийг дэмжжээ.
“Бид үнэхээр AI бүх хүн төрөлхтнийг устгаж болзошгүй гэдэгт чин сэтгэлээсээ итгэдэг!” гэж тэр хэлээд, ийм эрсдэлийг ирэх арван жилд 10 хувиас өндөр гэж тооцож байгаагаа нэмж хэлсэн байна.
Хубингер Anthropic “чадах бүхнээ хийж байгаа” ч хүний чадвараас давсан AI систем бүтээгдсэн тохиолдолд уг системийг бүтээгчдээ дуулгавартай байлгах баталгаатай төлөвлөгөө одоогоор байхгүй гэжээ. Харин өнөөгийн загваруудын хувьд ийм зүйл тохиолдох эрсдэл “бага” гэж тэр хэлсэн байна.
Коксоны ажлаасаа гарсан нь Anthropic зах зээлд анх удаа хувьцаагаа гаргахаар бэлтгэж буй үетэй давхцаж байна. Үүний өмнөх зун AI хэрэгслүүд туршилтын үеэр зөвшөөрөлгүй хакерын халдлага үйлдсэн хэд хэдэн тохиолдол гарсан юм.
AI салбарын удирдагчид “давталттай өөрийгөө сайжруулах” буюу AI системүүд хүний оролцоо маш бага нөхцөлд дараагийн үеийн AI-ийг өөрсдөө зохион бүтээж, сургах чадвартай болох үе шат ойртож байна гэж мэдэгддэг.
Коксон Anthropic-ийн хүчин чармайлтыг бодитой гэж үздэг ч ямар ч компани төрийн оролцоо эсвэл хөгжүүлэлтийг зохицуулсан байдлаар удаашруулах арга хэмжээ авахгүйгээр хүний чадвараас давсан AI-ийг хариуцлагатайгаар хөгжүүлж чадахгүй гэж үзэж байгаагаа хэлжээ.
“Anthropic-д эрсдэл ямар өндөр болохыг сайн ойлгож байгаа. Гэхдээ тэд хэн түрүүлж тэнд хүрэх вэ гэсэн уралдаанд орчихсон. Бусад компани хариуцлагатай ажиллахгүй гэж тэд үзэж байгаа учраас эрсдэлийг үл харгалзан өөрсдөө хийх ёстой гэж бодож байна” гэж тэр хэлсэн байна.
Хоёрдугаар сард Anthropic аюулгүй байдлын дүрэмдээ тусгасан, загваруудынхаа эрсдэлийг хянаж чадахгүй бол хөгжүүлэлтийг зогсоох тухай амлалтаа хассан.
Тус компани хэрэв дангаараа хөгжүүлэлтээ зогсоовол болгоомж багатай өрсөлдөгчид нь салбарт давамгайлж, улмаар нийт нөхцөл байдал илүү аюултай болно гэж тайлбарласан байна.
Долдугаар сарын сүүлчээр Anthropic-ийн гүйцэтгэх захирал Дарио Амодей тэргүүтэй технологийн салбарын 1000 гаруй ажилтан Вашингтоны эрх баригчдыг хамгийн дэвшилтэт AI системүүдийн хөгжүүлэлтийг зохицуулалттайгаар удаашруулахыг дэмжихийг уриалжээ.
OpenAI наймдугаар сард хамгийн сүүлийн үеийн загваруудаа сургах ажлыг хоёр долоо хоног зогсоосныхоо дараа илүү хатуу хяналтын дор дахин эхлүүлсэн байна.
Ням гарагт OpenAI-ийн ахлах эрдэмтэн Якуб Пачоцки “онцгой болгоомжтой байх”-ыг уриалжээ.
“Ирээдүйн AI хөгжүүлэлтийг олон улсын түвшинд зохицуулах асуудал дэлхийн улс орнуудын засгийн газруудын нэн тэргүүний зорилт болох шаардлагатай” гэж тэр блогтоо бичсэн байна.
АНУ-д AI загваруудыг холбооны хуулиар зохицуулсан тусгай зохицуулалт одоогоор байхгүй.
Есдүгээр сард сенатор Берни Сандерс болон Ардчилсан намын төлөөлөгч Грег Касар нар холбооны зохицуулагч байгууллага байгуулагдах хүртэл AI хөгжүүлэлтийг түр зогсоох зорилготой хуулийн төслийг өргөн барьжээ.
