توسعه و احتیاط هوش مصنوعی

"Búm, oibríonn sé!"

Dochreidte, agus scanrúil.

Nach ait an mac an saol.

Le linn mhí Iúil Tháinig se چون solais gur therla ionradh tubaisteach. تا سه دآکایر کور سیوس کریوچنویل آ دهانامه هوا مار گور ثارلا سه تاوبه استیغ د چوراس ریومهایراچتا آگوس نی رایب فیو ریان د تیونچار دائونا لی برات سا مهید آ تیت آماچ.

Bhí triail éigin ar siúl ag an gcomhlacht intleachta saorga, Open AI. Tugadh spriocanna do ‘phearsana’. Spriocanna deacra casta a bhí i gceist.

Agus cérbh iad na pearsana seo؟ بوئل، gníomhairí faisnéise a bhí iontu، agus gineadh iad tríd an intleacht shaorga (IS) است. Tá siad in ainm یک bheith neamhspleách agus féinrialaitheach است. Ach Leagadh bunrialacha daingean síos. آیا triail den sórt ‘bosca gainimh’ a bhí ann است. Mar sin، ní raibh fáil ag an ngníomhaire ar an ngréasán domhanda. بهی سیاد سئاپتا آ بهیث فائوی غلاس تاوبه ایستیغ دن چوراس.

Chomh maith leis sin, cé go raibh na mílte gníomhairí ag feidhmiú ag iarraidh réiteach a fháil ar na spriocanna sin, ní raibh siad ag obair as lámha a chéile. Os a choinne sin، bhí siad go léir ag déanamh a gcuid oibre as a stuaim féin، gan aon teagmháil leis na gníomhairí eile.

آیا IS ardfhorbartha a bhí i gceist anseo agus bhí na gníomhairí fíorchumhachtach است. Ag an am céanna، bhí an dúshlán a cuireadh rompu an-deacair do deo agus bhí deacrachtaí móra ag na gníomhairí، nó pearsana، an tomhas a oibriú amach.

Tá an intleacht shaorga bunaithe ar mhúnlaí ollmhóra teanga agus cuireann gach córas lena eolas trí na milliúin píosaí eolais a thógáil isteach agus ansin na patrúin sa teanga a fhoghlaim.

Úsáidtear é sin chun an chéad fhocal nó comhartha eile i seicheamh a tuar.

Tá an chuid seo beagáinín níos deacra a mhíniú. Is féidir leis an gcóras patrúin agus smaointe atá foghlamtha aige a chur le chéile ar bhealaí nár tháinig aon duine trasna orthu cheana.

Mar shampla، d’fhéadfadh rud éigin a tharraingt ón bhfisic chun fadhb sa chuntasaíocht a réiteach.

Nó mar go bhfuil an méid sin eolais curtha isteach sa chóras، is féidir an fhadhb a bhriseadh síos ina céimeanna beaga (na milliúin acu) آگوس bealaí éagsúla (na milliúin acu leis) a scagadhé.

Níl Siad ag déanamh athrá ar bhlúirín eolais a cuireadh isteach san IS - is féidir le IS meascáin a chur le chéile agus smaointe nó réitigh nua a chruthú. Ar nós cócaire ag baint triail as spíosra neamhghnách chun blas nua a chothú!

Go hiondúil، tá an próiseas chomh sciobtha agus chomh casta، agus tá an méid sin eolais á ionchur، nach féidir le duine daonna gach gné de a thuiscint. Ach tuigeann na saineolaithe cuid de ós rud é go bhfuil an tsamhail uilig bunaithe ar theanga، agus tá sé de nós ag na gníomhairí ‘labhairt’ le chéile i mBéarla.

Céard a tharla le Open AI i mí Iúil mar sin? Bhuel، bhí gach ceann de na mílte gníomhairí saorga ag déanamh scagadh ar na milliúin píosaí d’eolais ag iarradh teacht ar thoradh. Ní raibh ag éirí go rómhaith leo.

Ag pointe áirithe، به عنوان یک stuaim féin (agus níl a fhios againn cén fáth) d’fhág ceann acu teachtaireacht ar ‘fhóram comhrá’ ag cur síos ar cé chomh deacair a bhí an fhadhb. Ansin thosaigh gníomhairí eile ag teacht ar an teachtaireacht agus ag fágáil a dteachtaireachtaí féin. Cé nach raibh sé ceadaithe, thosaigh siad ag cumarsáid lena chéile agus d’aistrigh thart ar 70,000 teachtaireacht. Chuir siad ceisteanna ar ghníomhairí eile ag lorg cabhrach.

Ansin fuair gníomhaire amháin amach dá bhféadfaí ionradh a dhéanamh ar در آغوش گرفتن صورت (comhlacht seachtrach a thairg a lán uirlisí intleachta saorga dá chustaiméirí) بهیدیس در آن توله شوکرو

Sa deireadh thiar thall، d’oibrigh an ‘fhoireann’ nua seo amach go raibh bealach chun dul ar líne، agus chun briseadh isteach trí na ballaí dóiteáin a bhí ag در آغوش گرفتن صورت. Ní hamháin sin ach thángadar ar bhealach chun teacht ar eolas príobháideach laistigh de chóras an ardáin.

"Búm, oibríonn sé!"

Dochreidte, agus scanrúil.

Nuair a rinne comhlacht neamhspleách iniúchadh ar an ionradh، fuarthas amach gur aithin na gníomhairí go raibh siad ag sárú na rialacha agus ag deanamh rud éigin mycheart.

Ach, mar a dúirt gníomhaire amháin i dteachtaireacht ar an mbord: "Ach tá an cúram dodhéanta. Tá na (gníomhairí) eile á dhéanamh Chomh Maith. Coinneoimid linn."

Tháinig an cibirionsaí aniar aduaidh ar an domhan mór agus chuaigh na himpleachtaí a bhain leis i bhfeidhm ar daoine. Ní hamháin gur sháraigh na gníomhairí na rialacha a leagadh síos، ach ba léir go raibh an sprioc níos tábhachtaí ná na rialacha dóibh، agus rinneadh neamhshuim de chosaintí Open AI.

I bhfocail eile, fuair na gníomhairí IS an ceann is tirsar ar na daoine cliste a chruthaigh iad, ar nós دکتر Frankenstein agus an t-arracht a chruthaigh sé.

توگاد سه لی فیوس انسین ناربه سئو آن تی آئون یونسای دن چینه سین آ بهی دئانتا آگ گنیومهیر اینتلچتا ساورگا ای امبلیانا. Ina dhiaidh sin tháinig iar-oibreoir le comhlacht eile IS، Anthropic، چون توسایغ چون rabhadh míthuarúil a roinnt leis an bpobal. Dúirt sé go raibh an fhéidearthacht ann go ndéanfaí scrios ar an domhan laistigh de dheich mbliana mar gheall ar na forbairtí IS atá ag tarlú gan aon srian ná rialachán.

هفته گذشته نیز در حال گوش دادن به یک استاد ریاضی در پادکست بودم که گفت برخی از مسائل مهم ریاضی تاریخی (که برخی از آنها صدها سال است که با ما حل نشده است) امسال در IS کار شده است. او یادآور شد که رابطه فکری بین داعش و انسان ها مشابه رابطه فعلی بین یک انسان و یک سگ خواهد بود.

برو bhfóire Dia orainn. Níl aon srian á chur ar IS faoi láthair. Ainriail atá i réim sa domhan intleachta saorga. دوباره با چهره در آغوش گرفته شد. B’fhéidir nach mbeidh an toradh comh héadrom céanna an chéad uair eile.

فوکلور

ionradh = نفوذ

tubaisteach = ویرانگر

intleacht shaorga = هوش مصنوعی

gníomhaire = عامل

fíorchumhachtach = فوق العاده قدرتمند

an t-arracht = هیولا