TinyGPU åbner for, at eksterne GPU’er kan afvikle AI‑modeller direkte på Mac‑computere.
Det kræver voldsom computerkraft at arbejde med AI-modeller på en hjemmecomputer som en Mac mini, der fra naturens hånd let kan miste posten uden udførelse af AI-opgaver.
Apple har netop officielt godkendt TinyGPU, der er en driver, som gør det muligt at for eksterne grafikkort (eGPU'er) at fungere som AI-acceleratorer på Macs fra Apple med Silicon-processorer.
Hvad betyder det i praksis?
Mac-computere herunder Mac-mini er rost til skyerne for deres effektivitet og tætte integration mellem hardware og software, men desværre har Apple maskiner ikke fungeret så godt sammen med eksterne grafikkort, hvilket har gjort det svært at booste ydelsen på eksempelvis en Mac mini.
Dette forhold rettes der nu op på med Apples godkendelse af TinyGPU-driveren, således at Mac-brugerne kan udnytte højtydende NVIDIA- og AMD-grafikkort til udførelse af tunge og ressourcekrævende AI-opgaver uden at skulle omgå systembeskyttelser på Mac som eksempelvis SIP.
SIP er en systembeskyttelser som Apple har indbygget på en række Mac-modeller for at beskytte mod malware og forhindre adgang til beskyttede filer.
Hvad kræver det at bruge TinyGPU?
TinyGPU-softwaren understøtter macOS 12.1 og fremefter på Mac-modeller med en Silicon-chip herunder Apples M1 til M5-processorer. De samme Mac-computer skal være udstyret med Thunderbolt og en USB4 adgang.
Derudover kræver det med hensyn til hardware grafikkort fra NVIDIA eller AMD for at fungerer, og setuppet kræver typisk også en dockingstation for at de omtalte grafikkort kan tilsluttes til en Mac for at fungere sammen med TinyGPU-driveren.
Med hensyn til download, installation og opsætning kan du med fordel besøge dette link: https://docs.tinygrad.org/tinygpu/.
Stort AI-potentiale for Mac-brugere
I forbindelse med at Apple nu officielt har godkendt brugen af eGPU-understøttelsen på Apple Silicon, så åbner det for nogle spændende muligheder for Mac-brugere for at komme til at udføre tunge AI-opgaver på en Mac ved at supplere op med et eksternt grafikkort, som kan være en relativt overkommelig investering.
En Mac kan eksempelvis så bruges til:
- Tung AI-inference (LLM'er, diffusion, vision).
- AI-træning af mellemstore modeller.
- GPU-acceleret data science.
- CUDA-kompatible workloads (NVIDIA-kort).
- HPC-lignende workloads via AMD ROCm og NVIDIA CUDA.
Mac mini men også andre Mac-computere går dermed fra at kun at være en "smart terminal" til at blive en vaskeægte AI-arbejdsstation.
Problemer med at læse på skærmen?
Hvis du oplever problemer med at kunne læse, hvad der står på skærmen af din Mac, bør du overveje kontaktlinser som en løsning, og vi giver dig fem fordele ved kontaktlinser fremfor briller:
- Udseende: Kontaktlinser ændrer ikke dit udseende, så du kan bevare dit naturlige look uden at skulle tænke på, hvordan du ser ud med briller.
- Frihed og komfort: Kontaktlinser irriterer ikke og dugger ikke til, som briller kan gøre, hvilket giver større komfort og frihed.
- Synsfelt: Kontaktlinser giver et bredere synsfelt, da der ikke er nogen rammer, der begrænser dit syn. Du kan se klart i alle retninger.
- Aktiviteter og sport: Kontaktlinser er ideelle til fysisk aktivitet og sport, da de ikke falder af eller bliver ødelagt under bevægelse.
- Mode og stil: Du behøver ikke bekymre dig om at matche dine briller med dit tøj eller tilbehør, da kontaktlinser er usynlige.