ОпенАИ је упозорио на откриће вештачке интелигенције која би могла да угрози човечанство

Дан раније изгнанство Извршни директор ОпенАИ Сем Алтман, неколико истраживача особља компаније писало је управном одбору писмо са упозорењем на откриће моћне вештачке интелигенције, за коју кажу да би „могла да угрози човечанству“. О томе уз позивање на сопствене изворе пише Реутерс.

Управо је ово писмо наведено као један од фактора на дугачкој листи притужби управног одбора који су довели до Алтманове смене. Ројтерс није могао лично да разговара са ауторима нити да добије коментар од ОпенАИ. Међутим, након таквог захтева, компанија је у интерној поруци запосленима објавила постојање одређеног пројекта под називом К* (изговара се К-Стар).

Неки запослени у ОпенАИ-ју сматрају да би К* могао бити искорак у тзв општа вештачка интелигенција (АГИ). ОпенАИ га карактерише као аутономни систем који надмашује људе у већини економски вредних задатака.

До сада, према једном извору, К* може да изводи математичке задатке само на основном нивоу. школе, али успешан завршетак оваквих тестова даје истраживачима велики оптимизам у погледу изгледа за њен развој.

Главна разлика између такве АИ је у томе што је у стању да постави циљеве, подели сложене проблеме на мале, ради на широком спектру проблема и пронађе решења узимајући у обзир контекст из различитих домена. Једноставно речено, таква интелигенција, у теорији, може заменити висококвалификованог специјалисте са знањем, вештинама и великим искуством.

Истраживачи верују да је математика врхунац генеративне вештачке интелигенције. Данас је добар у писању и превођењу, статистичком предвиђању следеће речи, а одговори на исто питање могу веома да варирају. Али освајање математике (где постоји само један тачан одговор) имплицира да ће АИ имати шире способности расуђивања које личе на људску интелигенцију. То се може применити, на пример, на нова научна истраживања, кажу стручњаци.

У свом писму управном одбору, истраживачи су истакли моћ вештачке интелигенције и потенцијалне опасности. Такође су приметили рад посебне групе „научника вештачке интелигенције“, чије постојање су потврдили бројни извори. Тим проучава како да оптимизује постојеће моделе вештачке интелигенције како би побољшао своје резоновање и на крају обавио научни рад са њима, рекао је један од људи.

Алтман је предводио напоре да ЦхатГПТ учини једном од најбрже растућих софтверских апликација историју и привукао инвестиције и рачунарске ресурсе из Мицрософта неопходне за доношење таквих АГИ. А непосредно пре своје смене, на самиту светских лидера у Сан Франциску, најавио је нека „озбиљна достигнућа која су пред вратима“.

Дан касније, одбор је отпустио Алтмана.

Можда ће једног дана све ове одлуке и догађаји бити основа књиге, читавог филма, па чак и уџбеника историје.