Kā izmantot vietējos AI modeļus Opera One Developer

Lai gan daudzas pārlūkprogrammas savās pārlūkprogrammās integrē AI funkcijas, Opera tikko kļuva par pirmo pārlūkprogrammu, kurā tika integrēti vietējie AI modeļi. Opera savam Opera One pārlūkam pievieno eksperimentālu atbalstu vairāk nekā 150 vietējās lielās valodas modeļa (LLM) variantiem no aptuveni 50 dažādām modeļu saimēm.

Tā kā valodu modeļi būs lokāli, lietotājiem nebūs jāuztraucas par to, ka viņu dati tiks nosūtīti uz LLM serveri. Tas ir privāts un drošs AI izmantošanas veids.

Lai izmantotu vietējos LLM modeļus, datorā būs nepieciešami 2–10 GB vietas atkarībā no izmantotā varianta. Daži no atbalstītajiem LLM ir Llama no Meta, Phi-2 no Microsoft, Gemma no Google, Vicuna, Mixtral no Mistral AI utt. Varat izmantot šos valodu modeļus, nevis Aria AI no Opera un pārslēgties atpakaļ uz Aria AI ikreiz gribu.

Funkcija pašlaik ir pieejama tikai Opera One izstrādātāju straumē. Lūk, kā jūs varat aktivizēt un izmantot vietējos AI modeļus programmā Opera One Developer.

Lejupielādēt Opera One Developer

Ja jums jau ir Opera One Developer, vienkārši izlaidiet šo sadaļu un pārejiet tieši uz vietējo LLM modeļu izmantošanu.

Dodieties uz šo saiti, lai lejupielādētu Opera One Developer. Ritiniet uz leju un Opera One izstrādātāja elementā noklikšķiniet uz Lejupielādēt tūlīt.

Atveriet failu, kad tas ir lejupielādēts, un palaidiet instalēšanas programmu.
Noklikšķiniet uz “Pieņemt un instalēt” un pēc tam izpildiet ekrānā redzamos norādījumus, lai instalētu pārlūkprogrammu.

Vietējā AI modeļa iestatīšana

Kad pārlūkprogramma ir lejupielādēta, noklikšķiniet uz ikonas “Aria AI” kreisajā sānjoslā.

Noklikšķiniet uz “Turpināt”, lai turpinātu.

Ja izmantojat Aria pirmo reizi, jums būs jāreģistrējas bezmaksas Opera kontam, lai to izmantotu. Lai izveidotu Opera kontu, varat izmantot savu e-pastu vai Apple, Facebook vai Google kontu.

Kad konts būs izveidots, varēsit tērzēt ar Āriju.
Tagad panelī Aria jūs redzēsit opciju “Izvēlēties vietējo AI modeli”. Noklikšķiniet uz tā.

Nolaižamajā izvēlnē atlasiet “Doties uz iestatījumiem”.

Pārliecinieties, vai ir iespējots slēdzis “Iespējot vietējo AI tērzēšanā”.

Pēc tam izvēlieties modeli, kuru vēlaties lejupielādēt vietējai lietošanai, noklikšķinot vai meklējot to. Kā minēts iepriekš, Opera ir ieviesusi atbalstu aptuveni 50 modeļu ģimenēm ar dažādiem variantiem, kopā sasniedzot 150.

Tātad dažiem modeļiem, noklikšķinot uz dažiem modeļiem, piemēram, Google Gemma, jūs iegūsit 4 dažādus variantus. Lejupielādējiet modeli, kuru vēlaties izmantot. Šajā rokasgrāmatā mēs lejupielādējam Gemma 2B teksta modeli. Labajā pusē noklikšķiniet uz pogas Lejupielādēt. Pirms modeļa lejupielādes varat redzēt datoram nepieciešamo vietu.

Lejupielāde aizņems kādu laiku atkarībā no modeļa izmēra un interneta savienojuma. Blakus tam varat redzēt lejupielādes norisi.

Vietējā AI modeļa izmantošana

Kad modelis ir lejupielādēts, noklikšķiniet uz ikonas “Izvēlne” paneļa augšējā kreisajā stūrī.

Parādītajā izvēlnē atlasiet “Jauna tērzēšana”.

Vēlreiz noklikšķiniet uz opcijas “Izvēlēties vietējo AI modeli” augšpusē un nolaižamajā izvēlnē atlasiet tikko lejupielādēto modeli, mūsu gadījumā Gemma.

Tagad tiksiet pārslēgts uz jūsu izvēlēto vietējo AI modeli. Uzvedņu joslā ierakstiet savu uzvedni un nosūtiet to AI, lai sāktu vietējo mijiedarbību.

Jūsu tērzēšanas sarunas ar vietējo AI modeli būs pieejamas tērzēšanas vēsturē, tāpat kā jūsu tērzēšana ar Aria. Varat arī pārdēvēt tērzēšanas sarunas, lai labāk organizētu.
Tāpat varat lejupielādēt un izmantot vairākus vietējos AI modeļus, taču atcerieties, ka katram datorā ir nepieciešams 2–10 GB vietas.
Lai dzēstu modeli no datora, pārejiet uz tiem pašiem iestatījumiem, no kuriem mēs iepriekš lejupielādējām modeli, ti, Aria> Settings> Local AI Models> [Downloaded Model]. Pēc tam noklikšķiniet uz pogas “Dzēst”.

Pārslēdzieties atpakaļ uz Aria

Lai pārslēgtos atpakaļ uz Aria, vienkārši sāciet jaunu tērzēšanu ar AI. Noklikšķiniet uz ikonas “+” augšējā labajā stūrī.

Jaunā tērzēšana sāksies ar pašu Āriju.

Ir ļoti aizraujoši izmantot lokālos mākslīgā intelekta modeļus pārlūkprogrammā Opera One, turklāt ne tikai no drošības un privātuma viedokļa. Lai gan sākotnējā stadijā viss ir ļoti vienkārši, potenciālie nākotnes gadījumi ir diezgan aizraujoši. Pārlūkprogramma ar vietējo AI var nozīmēt, ka tā var izmantot jūsu vēsturisko ievadi ar visiem jūsu datiem; cik tas būtu aizraujoši! Un Opera komanda pēta šo iespēju.

Taču pat bez nākotnes iespējām vietējie AI ir lielisks solis lietotājiem, kuri uztraucas par to, ka viņu dati un tērzēšana ar AI tiek glabāta tā serveros. Ir daži lieliski LLM, kurus varat izpētīt, piemēram, Llama kodēšanai, Phi-2 izcilām spriešanas iespējām un Mixtral tādiem uzdevumiem kā teksta ģenerēšana, atbildes uz jautājumiem utt.