Hage dhameystiran oo ku rakibida iyo adeegsiga GPT-OSS Linux talaabo talaabo

  • GPT-OSS waxa ay kuu ogolaataa in aad sirdoon macmal ah oo horumarsan ku socodsiiso gudaha, iyada oo hubinaysa xogta gaarka ah iyo xakamaynta oo dhamaystiran.
  • Habka gpt-oss-20b waa ikhtiyaarka ugu jaban ee isticmaalayaasha qalabka isticmaala, halka gpt-oss-120b loo qoondeeyay qalab xirfad leh.
  • Aaladaha sida Ollama iyo LM Studio waxay fududeeyaan rakibaadda, maaraynta, iyo isticmaalka GPT-OSS ee Linux, iyagoo bixiya labadaba khadka-talaalada iyo is-dhexgalka garaafyada.
Pablinux

Daqiiqado 10

gpt-oss ee Linux

Imaatinka moodooyinka luqadda furan sida GPT-OSS waxay calaamadisay kahor iyo ka dib isticmaalka sirdoonka macmal ee gudahaIsticmaalayaal badan oo badan ayaa raba in ay ka faa'iidaystaan awoodda moodooyinkan iyaga oo aan ku tiirsanayn daruuraha ama u soo bandhigin xogtooda dhinacyo saddexaad. Ku rakibida GPT-OSS Linux waa mid ka mid ah caqabadaha ugu xiisaha badan iyo fursadaha kuwa raadinaya madax-bannaanida tignoolajiyada iyo sirta ugu badan.

Hagahaan dhameystiran ayaa ku socon doona habka aad u rakibaneyso iyo isticmaalka GPT-OSS Linux. Waxaan dabooli doonaa wax kasta oo aad u baahan tahay inaad ogaato: laga bilaabo shuruudaha, kala duwanaanshaha moodeelka, tixgalinta qalabka, doorashada iyo habaynta aaladaha sida Ollama iyo LM Studio, ilaa isdhexgalka dhamaadka, habaynta, iyo cilad-bixinta guud. Dhammaan oo leh talo wax ku ool ah, tusaalayaal adduunka dhabta ah, iyo adoon ka tagin faahfaahinta muhiimka ah, si aad si buuxda uga faa'iidaysato fursadaha ay bixiso GPT-OSS markaad ku shaqaynayso kumbuyuutarkaaga.

Waa maxay GPT-OSS iyo waa maxay faa'iidooyinka ku shaqeeya Linux?

GPT-OSS waa soo jeedinta qaabka luqadda isha furan ee OpenAI.Markii la bilaabay, shirkaddu waxay sii deysay laba nooc oo waaweyn: gpt-oss-20b iyo gpt-oss-120b. Kala duwanaanshahan waxaa loogu talagalay inay ku shaqeeyaan gudaha oo u oggolaadaan isticmaale kasta inuu tijaabiyo, barnaamijo, ama la shaqeeyo AI horumarsan isagoon ku tiirsanayn adeegayaasha dibadda ama isku xirka daruuraha.

Maxay mudan tahay in GPT-OSS loo isticmaalo gudaha halkii aad isticmaali lahayd adeegyada khadka?

  • sir buuxda: Xogtaadu waxay ku sii jirtaa kombuyuutarkaaga, adigoon waxba u dirin internetka.
  • Waxaad ka fogaataa kharashaadka API: ku fiican horumarka degdega ah ama tijaabada ah.
  • Maaraynta: Waxaad xakameyn kartaa cabbirrada, la qabsiga dhaqanka, oo aad hagaajin kartaa qaabka hawlo gaar ah.
  • Helitaanka khadka tooska ah: ku fiican bey'ada aan isku xirnaanta lahayn ama leh xannibaadyo ammaan.

Linux, dabacsanaanteeda iyo adkeysigeeda awgeed, ayaa ah deegaanka ugu habboon in la geeyo lagana faa'iidaysto awoodda buuxda ee GPT-OSS, gaar ahaan marka loo baahan yahay qalabka khadka taliska iyo automation horumarsan.

Farqiga muhiimka ah ee u dhexeeya GPT-OSS-20b iyo GPT-OSS-120b

Inkasta oo labada noocba ay wadaagaan falsafada il furan, shuruudahooda farsamo aad bay u kala duwan yihiin. Tani waa lama huraan marka aad dooranayso midka lagu rakibayo kumbuyuutarkaaga.

  • gpt-oss-20b: Waa nooca ugu fudud ee la heli karo waxaana lagu socon karaa kombayutarada macaamiisha inta ay haystaan ugu yaraan 16 GB oo xusuusta ah (doorbidayaa VRAM). Waxqabadkeedu aad buu ugu fiican yahay hawlaha badankooda oo xataa waxay ku shaqayn karaan laptops awood leh ama kombuyuutarrada miiska oo ku qalabaysan GPU-yo casri ah oo dhexdhexaad ah.
  • gpt-oss-120b: Habkani wuxuu u baahan yahay ugu yaraan 60-80 GB ee VRAM (Xusuusta garaafka), shay kaliya oo laga heli karo goobaha shaqada ee xirfadleyda ah ama qalabka xarunta xogta. Waxqabadkeeda iyo awoodeeda sababayntu waxay la mid yihiin barnaamijyada OpenAI ee ugu horumarsan, laakiin inta badan isticmaaleyaasha guriga ama kuwa horumariya shaqsiyadeed, gpt-oss-20b waa doorashada macquulka ah.

Marka la soo koobo, haddii aad haysato kumbuyuutar leh agab ku filan oo aad raadinayso inaad tijaabiso, had iyo jeer ku bilow gpt-oss-20b. Sidan, waxaad ka fogaataa arrimaha waxqabadka oo aad hubisaa waayo-aragnimada siman adiga oo aan waxyeello u geysanayn shaqeynta asaasiga ah ee moodeelka.

Muhiim: Haddii kombuyuutarku leeyahay wax ka yar 16 GB ee VRAM, moodeelku wuxuu isticmaali doonaa RAM caadiga ah. Waxaad u baahan doontaa ugu yaraan 16 GB oo RAM jireed ah si aad uga fogaato gaabis xad dhaaf ah iyo shilalka suurtagalka ah.

Tixgelinta hordhaca ah iyo shuruudaha farsamada

Ku rakib oo ku socodsii GPT-OSS Linux ku lug leh qaar ka mid ah shuruudaha ugu yar ee hardware iyo software. Kahor intaadan horay u socon, iska hubi inaad raacdo tilmaamahan si aadan hadhow kula kulmin dhibaatooyin aan fiicneyn.

  • Qalabka lagu taliyay ee gpt-oss-20b: ugu yaraan 16GB RAM (doorbidayaa loo qoondeeyey VRAM on GPU), CPU casriga ah iyo ugu yaraan 20-50GB meel disk oo lacag la'aan ah.
  • Wixii gpt-oss-120b: Waxaad u baahan doontaa GPU xirfadle ah oo ah 80GB ama ka badan, deegaan xarun xogeed, iyo kaydinta SSD ee xawaaraha leh.
  • Nidaamka Howlgalka: Linux waa kan ugu fudud ee loo dejiyo nooca codsiga. macOS waa la taageeray, halka Windows u baahan tahay tillaabooyin dheeri ah.
  • Software kaaliyaha: darawalada rasmiga ah ee GPU-gaaga, Ollama o LM Studio si loo fududeeyo qaabka fulinta iyo maamulka, iyo ugu dambeyntii Docker ee shabakadaha internetka ee horumarsan ama tijaabada API.
  • Isku xirka internet xasiloon: kaliya lagama maarmaanka u ah in la soo dejiyo moodooyinka iyo qaybaha marka ugu horeysa.

U hibeeya inta ugu badan ee suurtogalka ah habka rakibidda iyo bilaabista: xidh codsiyada aan loo baahnayn iyo kaydinta xusuusta ka hor inta aanad bilaabin GPT-OSS.

Ku rakibida Ollama Linux: Qalabka ugu horreeya ee lagu maareeyo GPT-OSS

Ollama waxa ay noqotay goobta loogu talo galay in si fudud loogu socodsiiyo moodooyinka luqadda gudaha. Waa bilaash, il furan, waxayna fududaynaysaa soo dejinta, maaraynta, iyo isticmaalka GPT-OSS iyo LLM-yada kale (Models Luuqadaha Waaweyn).

Ku rakibidda waa mid aad u fudud:

  1. Aad shabakadda ollama.com oo soo deji rakibaha gaarka ah ee Linux.
  2. Fur terminaalka oo orod: 
    curl -fsSL https://ollama.com/install.sh | sh
  3. Ku tijaabi rakibidda adoo ordaya (waa inay soo celisaa lambarka nooca rakiban): 
    ollama --version
  4. Bilow server-ka Ollama: 
    ollama adeegto

Tallaabooyinkan, Ollama wuxuu diyaar u yahay inuu soo dejiyo oo maamulo moodooyinka aad jeceshahay.

Marka lagu daro CLI-ga, Ollama waxaa loo isticmaali karaa is-dhexgalyada shabakadda sida Open WebUI ama APIs, taasoo ka dhigaysa qalab aad u badan oo loogu talagalay isticmaalayaasha farsamada iyo kuwa doorbidaya jawi garaafeed.

Soo dejinta iyo rakibida moodooyinka GPT-OSS

Tallaabada xigta ee muhiimka ah waa inaad soo dejiso qaabka GPT-OSS ee ku habboon qalabkaaga. Labada noocba waxa laga heli karaa Hugging Face waxaana si fudud loogu soo dejin karaa Ollama.

  1. Dooro qaabka aad isticmaalayso. Ka ugu caansan waa gpt-oss-20b ilaa aad haysato qalab xirfad leh.
  2. Terminalka, orod (tani waxay soo dejisan doontaa oo rakibi doontaa nooca loo habeeyay deegaankaaga): 
    ollama jiid gpt-oss-20b

Soodejintu waxay noqon kartaa mid weyn (laga bilaabo 12 ilaa 50 GB) waxayna qaadan doontaa wakhti iyadoo ku xidhan xidhiidhkaaga. Ha xidhin terminaalka hana hakin qalabkaaga inta hawsha socoto.

Markaad dhammayso, waxaad ku qori kartaa moodooyinka la heli karo ollama list.

Ku socodsiinta iyo adeegsiga GPT-OSS ee terminalka

Ollama wuxuu bixiyaa dhowr siyaabood oo loola falgalo moodooyinka: khadka taliska, adoo adeegsanaya API-ga, ama adoo ku daraya codsiyadaada.

  • Fadhi is dhexgal ah: orod ollama run gpt-oss-20b oo si toos ah uga bilow sheekeysiga terminalka.
  • Weydiimaha tooska ah: Si aad u hesho jawaabo degdeg ah fadhi la'aan, waxaad bilaabi kartaa: 
    ollama run gpt-oss-20b "Waa maxay Linux iyo maxay muhiim ugu tahay AI?"
  • Hagaajin dhaqanka: Wax ka beddel cabbirrada sida heerkulka iyo sare-p si loo xakameeyo hal-abuurka iyo kala duwanaanta jawaabaha, tusaale ahaan: 
    ollama run gpt-oss-20b --heerkulka 0.2 --top-p 0.9 "Sharax waxa ay tahay waxbarashada la kormeero."

Qaabka ayaa ka jawaabi doona wakhtiga dhabta ah, inkasta oo xawaaruhu ku xidhnaan doono awooda qalabkaaga. Kumbuyuutarrada aan lahayn GPU-ga, wax-qabadku aad ayuu u gaabis u noqon karaa, gaar ahaan moodooyinka waaweyn. Ha ka welwelin haddii ay ku qaadato dhowr ilbiriqsi ama daqiiqado in laga jawaabo marka hore, gaar ahaan kombuyuutarrada kheyraadka yar.

Habaynta Sare: Modelfiles gudaha Ollama

Mid ka mid ah awoodaha Ollama waa awoodda lagu abuurayo moodooyinka gaarka ah iyadoo la adeegsanayo waxa loogu yeero ModelfilesTani waxay kuu ogolaanaysaa inaad ku habboonaato GPT-OSS hawlo gaar ah (tusaale ahaan, inaad noqoto kaaliyaha Python-savvy, qorista qoraallada saxaafadeed, iwm.)

  1. Abuuri feyl loo yaqaan Qaabka gal madhan.
  2. Wuxuu qeexayaa qaabka saldhigga iyo cabbirrada gaarka ah, tusaale ahaan: 
    KA Gpt-oss-20b NIDAAMKA "Waxaad tahay khabiir ku takhasusay xogta sayniska. Si cad oo kooban uga jawaab." PARAMETER heerkulka 0.4 PARAMETER nambar_ctx 4096
  3. Isla galkii, ku orod: 
    ollama samee kaaliyaha-xogta -f Modelfile
  4. Ku bilow qaabka gaarka ah: 
    ollama run data kaaliyaha

Habkani wuxuu kuu ogolaanayaa inaad si dhakhso ah ula qabsato dabeecadda moodeelka adiga oo aan dib u tababarin ama wax ka beddelin xuduudaha gudaha.

Isku dhafka GPT-OSS ee codsiyadaada: Isticmaalka Ollama API

Ollama wuxuu daaha ka qaadaa API maxalli ah, oo la jaan qaadaya qaabka OpenAI, si aad GPT-OSS ugu dhex dari karto codsiyadaada ama socodka shaqada.

  • Halka ugu weyni waa http://localhost:11434Waxaad samayn kartaa codsiyada POST meelaha ugu dambeeya /api/generate y /api/chat JSONs la mid ah kuwa OpenAI.
  • Tusaale ahaan terminaalka:
    curl http://localhost:11434/api/generate -H «Content-Type: application/json» -d '{«model»: «gpt-oss-20b», «degdeg ah»: « Samee shaqada Python si aad u kala saarto tirooyinka»}'
  • Si loogu isticmaalo Python waxaad isticmaali kartaa maktabadda openai adiga oo tilmaamaya meesha ugu dambeysa ee deegaanka:
ka openai soo dejinta OpenAI macmiil = OpenAI(base_url = "http://localhost:11434/v1", api_key = "ollama") jawaab = client.chat.completions.create( model="gpt-oss-20b", fariimaha=[{"door": "user", "content": "Waa maxay barashada mashiinka?"}] ) daabac (jawaab[0).

Sidan, waxaad dib u isticmaali kartaa qoraallada ama isdhexgalka loo abuuray OpenAI API iyada oo aan isbeddello la taaban karin.

Qalabka kale ee lagu socodsiiyo GPT-OSS: LM Studio iyo Fur WebUI

Marka lagu daro Ollama, waxaa jira goobo kale oo kuu oggolaanaya inaad maareyso oo aad la falgasho moodooyinka GPT-OSS gudaha. Kuwaas waxaa ka mid ah: LM Studio Waxay u taagan tahay sahlanaanta isticmaalka iyo habka muuqaalka.

Kala soo deg LM Studio degelkeeda rasmiga ah, ku rakib, oo fur. Codsigu wuxuu kugu hagi doonaa saaxir dejineed fudud, halkaas oo aad ka dooran karto moodeelka ugu habboon qalabkaaga. Haddii nidaamkaagu xaddidan yahay, wuxuu soo jeedin doonaa beddelaadyo fudud, inkasta oo aad had iyo jeer qasbi karto rakibidda GPT-OSS 20b.

Si loo rakibo qaabka:

  • Furan LM Studio oo ka tag appka oo socda.
  • Biraawsarkaaga, ka raadi qaabka GPT-OSS ee Hugging Face ama website-ka rasmiga ah oo dooro ikhtiyaarka "Isticmaal Model in LM Studio".
  • Ka xaqiiji furitaanka biraawsarkaaga oo guji "Download." Nidaamku waxa uu qaadan karaa in ka badan intii la filayey iyadoo ay ugu wacan tahay cabbirka qaabka (qiyaastii 12 GB nooca yar oo keliya).
  • Marka soo dejinta la dhammeeyo, "U isticmaal sheeko cusub" ikhtiyaarka wuxuu u muuqan doonaa inuu bilaabo la falgalka moodeelka LM Studio interface.

Maxaa dhacaya haddii aad haysato wax ka yar 16GB ee RAM? Waxaad awoodi doontaa inaad socodsiiso moodelka, laakiin waayo-aragnimadu aad bay u gaabis noqon doontaa. Kheyraadka badan ee aad u hurto, ayaa fiicnaanta dareeraha iyo xawaaraha.

Cilad-raadinta iyo hagaajinta

Si la mid ah dhammaan barnaamijyada horumarsan, dhibaatooyin ayaa soo bixi kara marka GPT-OSS uu ku socdo gudaha. Waa kuwan dhibaatooyinka ugu badan iyo sida loo xalliyo:

  • Xasuus la'aanta ka baxday: gpt-oss-120b ma bootin doono haddii aadan haysan 80GB (ama ka weyn) GPU. Isticmaal gpt-oss-20b ama hagaaji ilaha nidaamkaaga.
  • Qaabka lama soo dejin: Haddii Ollama uu bixiyo khalad, ka hubi ollama list in aad soo dejisay qaabka la rabay.
  • API-ku uma eka inuu shaqaynayo: Hubi in Ollama uu socdo (amar ollama serve) iyo in dekedda 11434 aanay mashquul ahayn.
  • Gaabis daran: Tani waxay dhacdaa marka la wado moodooyin waaweyn oo aan lahayn GPU ama RAM hooseeya. Xir arjiyada, yaree cabbirka macnaha guud, oo isku day dardargelin gaaban.
  • Dhibaatooyinka darawallada: Hubi in darawalada NVIDIA ama AMD ay si habboon u rakiban yihiin si ay uga faa'iidaystaan dardargelinta qalabka.

Haddii aad qabto wax su'aalo ah oo halis ah, la tasho kaydka rasmiga ah ee qalabka aad isticmaalayso ama golayaasha gaarka ah sida Hugging Face.

Dejinta iyo shaqada horumarsan ee Apidog iyo Fur WebUI

Kuwa soo saaraya codsiyada ama tijaabinaya dardargelinta adag, aaladaha sida Apidog ayaa muhiim u ah. Waxay kuu oggolaanayaan inaad ka aragto jawaabaha qulqulka ee Ollama API, falanqeyso sababta moodeelka, oo aad aqoonsato khaladaadka iman kara.

  • Ku rakib Apidog boggeeda rasmiga ah.
  • U samee codsi ku socda API-ga deegaanka ee Ollama addoo isticmaalaya meesha ugu dambaysa ee ku habboon oo awood ikhtiyaarka qulqulka
  • Apidog wuxuu soo bandhigayaa calaamad kasta oo la helay waqtiga dhabta ah, taasoo sahlaysa in la saxo oo la barbardhigo cabbirrada sida heerkulka ama cabbirka macnaha guud.

Waxa kale oo aad u isticmaali kartaa WebUI Furan (iyada oo loo sii marayo Docker) is-dhexgal shabakadeed horumarsan, oo ay ku jiraan taariikhda sheekaysiga iyo dukumeenti gelinta jawaabaha macnaha guud.

docker run -d -p 3000:8080 --name open-webui ghcr.io/open-webui/open-webui:main

Soo gal browserkaaga http://localhost:3000 oo dooro qaabka aad rabto si aad si raaxo leh ugu sheekeysato.

Is dhexgalka Sare ee Terminal: Python Tusaalaha

Haddii aad rabto inaad tallaabo dheeraad ah qaado oo aad GPT-OSS ama ChatGPT ku dhex geliso qoraallada, Linux waxay fududaynaysaa adeegsiga Python iyo OpenAI API oo tilmaamaya dhabarka dambe ee Ollama.

  1. Hubi inaad haysatid Python 3 iyo pip:
  2. Ku-tiirsanaanta ugu weyn: 
    pip3 rakib codsiyada openai
  3. Dhoofinta furaha API-ga maxalliga ah ee ku yaal terminaalkaaga (laga yaabaa in aan loo baahnayn addoo isticmaalaya Ollama, laakiin waxaa loogu daayaa waafaqid): 
    dhoofin OPENAI_API_KEY=llama
  4. Samee qoraal sida soo socota:
soo daji openai openai.api_base = "http://localhost:11434/v1" openai.api_key = "ollama" degdeg = gelin (" Geli su'aashaada: ") jawaab = openai.ChatCompletion.create( model = "gpt-oss-20b", farriimaha = [{"door": "user", "content})" daabac

Sidan, waxaad ku abuuri kartaa chatbot gaar ah terminaalkaaga oo aad uga faa'iidaysato GPT-OSS hawl kasta oo aad uga baahan tahay Linux.

U door bida GPT-OSS iyo Linux sida madal AI deegaankaagu ay bixiso habaynta ugu badan, sirta iyo kaydinta kharashkaAdigoo ku rakibaya qaababka ku habboon, dooranaya qalabka maamulka ee ku habboon baahiyahaaga (Ollama, LM Studio, Open WebUI), iyo hagaajinta qaabeynta qalabkaaga, waxaad ku raaxeysan kartaa waayo-aragnimada heerka dhexe ee xogta adoo ka raaxaysanaya miiskaaga, adoo ilaalinaya xakamaynta buuxda ee xogtaada iyo hababkaaga. Haddii aad rabto inaad tijaabiso, horumariso, ama aad si fudud u barato sida LLMs ugu shaqeeyaan dhismaha, tani waa fursadaada ugu fiican.