Predtrénovanie videnia a veľkých jazykových modelov v jazyku Python: Koncové techniky na vytváranie a nasadzovanie modelov základov na AWS

Recenzie čitateľov

Kniha „Pretrain Vision and Large Language Models in Python“ od Emily Webber je komplexný sprievodca, ktorý pomáha čitateľom pochopiť a nasadiť základné modely pomocou AWS a Amazon SageMaker. Poskytuje praktické rady, podrobné diskusie a ukážky kódu, ktoré sú určené začiatočníkom aj pokročilým používateľom. V niektorých výtlačkoch sa však vyskytli problémy, ako napríklad tlačové chyby, a niektorí čitatelia zistili, že kniha nemá dostatočnú hĺbku alebo mali pocit, že sa snaží pokryť príliš veľa bez toho, aby zachádzala do zmysluplných detailov.

Komplexné pokrytie základných otázok týkajúcich sa školenia a nasadenia modelov, praktické príklady a ukážky kódu, dobre štruktúrované usmernenie, odborné postrehy autora, vhodné pre začiatočníkov aj pokročilých používateľov, aktuálny zdroj v čase rastúceho záujmu o veľké jazykové modely.

Niektoré výtlačky mali tlačové chyby (chýbajúce strany, obrátené strany), môže vyžadovať predchádzajúce znalosti hlbokého učenia, v niektorých oblastiach môže chýbať hĺbka, niektorí čitatelia mali pocit, že je príliš rozsiahla a neprehľadná a môže sa čítať ako predajná prezentácia pre SageMaker.

(na základe 15 čitateľských recenzií)

Pôvodný názov:

Pretrain Vision and Large Language Models in Python: End-to-end techniques for building and deploying foundation models on AWS

Obsah knihy:

Ovládnite umenie tréningu videnia a veľkých jazykových modelov s koncepčnými základmi a odborným vedením. Zoznámte sa so službami AWS a návrhovými vzormi s príslušnými príkladmi kódovania.

Kľúčové vlastnosti:

⬤ Naučte sa vyvíjať, trénovať, ladiť a používať základné modely s optimalizovanými koncovými potrubiami.

⬤ Preskúmajte rozsiahle distribuované školenie modelov a súborov údajov s príkladmi AWS a SageMaker.

⬤ Vyhodnoťte, nasaďte a sprevádzkujte svoje vlastné modely s detekciou skreslenia a monitorovaním potrubia.

Popis knihy:

Modely Foundation navždy zmenili strojové učenie. Od BERT po ChatGPT, od CLIP po stabilnú difúziu, keď sa miliardy parametrov skombinujú s veľkými súbormi údajov a stovkami až tisíckami GPU, výsledok nie je ničím iným ako lámaním rekordov. Odporúčania, rady a ukážky kódu v tejto knihe vám pomôžu predtrénovať a vyladiť vlastné základné modely od nuly na AWS a Amazon SageMaker a zároveň ich aplikovať na stovky prípadov použitia vo vašej organizácii.

Vďaka radám skúsenej odborníčky na AWS a strojové učenie Emily Webber sa v tejto knihe dozviete všetko, čo potrebujete, aby ste mohli prejsť od nápadu na projekt až po prípravu súboru údajov, trénovanie, vyhodnotenie a nasadenie veľkých jazykových, zrakových a multimodálnych modelov. Vďaka vysvetleniu základných pojmov krok za krokom a praktickým príkladom prejdete od zvládnutia konceptu predtrénovania k príprave súboru údajov a modelu, konfigurácii prostredia, tréningu, doladeniu, vyhodnoteniu, nasadeniu a optimalizácii základných modelov.

Naučíte sa, ako aplikovať zákony škálovania na distribúciu vášho modelu a súboru údajov na viacerých GPU, odstrániť skreslenie, dosiahnuť vysokú priepustnosť a vytvoriť pipeline nasadenia.

Na konci tejto knihy budete dobre vybavení na to, aby ste sa mohli pustiť do vlastného projektu na predtrénovanie a vyladenie základných modelov budúcnosti.

Čo sa naučíte:

⬤ Nájsť správne prípady použitia a súbory údajov na predtrénovanie a jemné ladenie.

⬤ Pripravte sa na rozsiahle školenie pomocou vlastných akcelerátorov a GPU.

⬤ Konfigurovať prostredia na AWS a SageMaker s cieľom maximalizovať výkon.

⬤ Vyberte hyperparametre na základe vášho modelu a obmedzení.

⬤ Distribuujte svoj model a súbor údajov pomocou mnohých typov paralelizmu.

⬤ Vyhnite sa nástrahám pri reštartovaní úloh, prerušovaných kontrolách stavu a ďalším.

⬤ Vyhodnoťte svoj model pomocou kvantitatívnych a kvalitatívnych poznatkov.

⬤ Vykonajte svoje modely pomocou vylepšení počas behu a monitorovacích potrubí.

Pre koho je táto kniha určená:

Ak ste výskumník v oblasti strojového učenia alebo nadšenec, ktorý chce začať základný projekt modelovania, táto kniha je určená práve vám. Aplikovaní vedci, dátoví vedci, inžinieri strojového učenia, architekti riešení, produktoví manažéri a študenti - tí všetci budú mať z tejto knihy úžitok. Nevyhnutnosťou je stredne pokročilý jazyk Python a úvodné pojmy z oblasti cloud computingu. Potrebná je dobrá znalosť základov hlbokého učenia, pričom budú vysvetlené aj pokročilé témy. Obsah pokrýva pokročilé techniky strojového učenia a cloudu a vysvetľuje ich praktickým a zrozumiteľným spôsobom.