Lokāls AI pret mākoņa AI: kas tiešām paliek jūsu ierīcē?
Modelis var darboties lokāli, kamēr norēķini, rezerves kopijas vai integrācijas joprojām pieslēdzas internetam. Noderīgais jautājums nav „vai tas ir lokāls?", bet „kuri dati šķērso kuru robežu un kāpēc?"
„Darbojas lokāli" izklausās pēc pilnīgas atbildes par privātumu.
Tā nav.
AI produktam ir vairākas daļas: modelis, kas sagatavo atbildi, atmiņa, ko tas lasa, saskarne, kontu sistēma, licences pārbaudes, atjauninājumi, analītika, kļūdu ziņojumi, rezerves kopijas un neobligātas integrācijas. Dažas no tām var atrasties jūsu ierīcē, citas pieslēdzas pakalpojumam.
Tas nepadara produktu negodīgu vai nedrošu. Tas nozīmē, ka lokālam AI vajag labāku skaidrojumu nekā zaļu nozīmīti „100 % privāts".
Enia uz ierīces tiek veidota kā personīgais AI, kas darbojas uz lietotāja kontrolētas aparatūras. Šeit ir standarts, kuram, mūsuprāt, jāatbilst katram lokālam AI produktam, arī mūsējam.
Sāciet ar secināšanu
Secināšana (inference) ir brīdis, kad modelis apstrādā jūsu pieprasījumu un ģenerē atbildi.
Mākoņa asistentā pieprasījums parasti tiek nosūtīts uz pakalpojuma sniedzēja infrastruktūru. Pakalpojuma sniedzējs darbina modeli un atgriež rezultātu. Drošība, glabāšanas ilgums un datu izmantošana modeļa uzlabošanai ir atkarīga no šī pakalpojuma noteikumiem un iestatījumiem.
Lokālā AI sistēmā secināšana notiek jūsu datorā, telefonā vai serverī. Lai iegūtu atbildi, uzvednei nav jāceļo uz attālu modeli.
Tā ir būtiska atšķirība. Tā ļauj strādāt bezsaistē un samazina personīgā satura apjomu, kas nonāk pie pakalpojuma sniedzēja. Tā rada arī ierobežojumus: ierīcei ir ierobežota atmiņa, apstrādes ātrums, enerģija un krātuve. Lokāls modelis plašās zināšanās vai sarežģītā programmēšanā var neatbilst lielākajam mākoņa modelim.
Privātums ir kompromiss, ne burvība.
Atmiņa var būt lokāla arī tad, ja ir konts
Personīgais AI kļūst noderīgāks, ja tas laika gaitā var paturēt izvēlētu kontekstu. Tas, kur šī atmiņa glabājas, ir tikpat svarīgi kā tas, kur notiek secināšana.
Lokāla atmiņa nozīmē, ka saglabātie fakti, izvēles, projekti un saites paliek lietotāja vidē. Produktam jādod iespēja tos apskatīt, labot, eksportēt un dzēst.
Konts joprojām var pastāvēt aktivizēšanai, norēķiniem vai licences pārvaldībai. Svarīgais dizaina jautājums ir, vai konta pakalpojums saņem pašu personīgo atmiņu.
Enia uz ierīces paredzētais sadalījums ir šāds:
- sarunu un personīgās atmiņas apstrāde ierīcē;
- e-pasts, licences stāvoklis un norēķinu ieraksts konta pakalpojumā;
- privātās sarunas netiek izmantotas kā centrāli modeļa apmācības dati.
Šim apgalvojumam jāsakrīt ar telemetrijas, atbalsta un rezerves kopiju darbību izlaistajā produktā. Kļūdas ziņojums, kurā ir sarunas teksts, šķērsotu robežu arī tad, ja pats modelis palika lokāls.
Licences pārbaude arī ir savienojums
Maksas lokāls produkts var periodiski pārbaudīt, vai licence ir aktīva. Šis savienojums var būt neliels un privātumu saudzējošs, bet tad apgalvojums „nekad nepieslēdzas internetam" būtu nepatiess.
Skaidram produktam jāpasaka:
- cik bieži notiek pārbaude;
- kurš identifikators un kuri lauki tiek nosūtīti;
- cik ilgi produkts strādā bezsaistē;
- kas notiek, kad apmaksātais periods beidzas;
- vai lokālie dati paliek pieejami un eksportējami.
Skaidrojumam jābūt līgumiskam, ne emocionālam. Programmatūrai nav jāiet bojā, lai aprakstītu abonementa stāvokli. Lietotājam jāzina, kura spēja apstājas un kas notiek ar viņa datiem.
Rezerves kopija robežu maina apzināti
Lokālai glabāšanai ir vienkāršs risks: ierīces sabojājas.
Šifrēta rezerves kopija var pasargāt personīgo AI no pazaudēta telefona vai salūzuša datora. Tā arī sūta šifrētu informāciju ārpus sākotnējās ierīces. Produktam tā jāpadara par skaidru, neobligātu izvēli un jāpaskaidro, kam pieder šifrēšanas atslēga.
Noderīgs rezerves kopiju apraksts atbild uz šiem jautājumiem:
- Vai rezerves kopēšana pēc noklusējuma ir izslēgta?
- Vai šifrēšana ir no gala līdz galam?
- Kas to var atšifrēt?
- Kuri dati tajā ir iekļauti?
- Vai lietotājs var izdzēst katru kopiju?
- Vai rezerves kopiju var pārnest uz jaunu ierīci?
Vārds „šifrēts" vien uz šiem jautājumiem neatbild.
Integrācijas rada jaunus, izvēlētus ceļus
Lokāls personīgais AI ar laiku var pieslēgties kalendāram, pastkastei, krātuves pakalpojumam vai meklēšanas servisam. Integrācija var būt noderīga, nemainot lokālo pamatdizainu, bet tā rada jaunu datu plūsmu.
Pirms to ieslēgt, produktam jāparāda, kas tiek nosūtīts, kam, kādam nolūkam un vai savienojums var ne tikai lasīt, bet arī rakstīt.
Noderīgais solījums nav „nekas nekad neaiziet ārā". Tas ir „katrs savienojums ir redzams un izvēlēts".
Pieci jautājumi jebkuram lokālam AI produktam
- Kur notiek secināšana tieši šai funkcijai?
- Kur glabājas sarunu vēsture un ilgtermiņa atmiņa?
- Kuri konta, licences, analītikas vai atbalsta dati atstāj ierīci?
- Kuri neobligātie rezerves kopiju un integrāciju ceļi pastāv?
- Vai es varu apskatīt, eksportēt un dzēst personīgos datus, ko sistēma radījusi?
Ja produkts uz šiem jautājumiem nevar atbildēt, vārds „lokāls" nes pārāk lielu slodzi.
Ko „vispirms lokāli" nozīmē Enia uz ierīces
Enia uz ierīces virziens ir personīgais AI, kura galvenā sarunu un atmiņas slodze dzīvo lietotāja kontrolētā ierīcē. Tas nav solījums, ka katra nākotnes funkcija būs bez savienojuma. Konta un licences pakalpojumi pastāv. Neobligātas rezerves kopijas un integrācijas var parādīties vēlāk. Katrai vajag savu robežu.
Produkts šobrīd ir strādājošs prototips; pastāvīgā atmiņa un plašāka izplatīšana vēl tiek izstrādātas. Šis statuss ir daļa no privātuma skaidrojuma: mums nevajadzētu solīt datu kontroli, ko pašreizējā versija vēl nenodrošina.
Lokāls AI nav vienkārši mākoņa AI, kas pārcelts uz klēpjdatoru. Tas maina to, kurš darbina aparatūru, kurš aizsargā datus, kuras spējas iederas un kā tiek apstrādātas kļūmes.
Tāpēc robežai jābūt redzamai, pirms solījums kļūst personīgs.