In de huidige technologische wereld zijn er verschillende tools en technologieën beschikbaar die bijdragen aan het verrijken van onze interactie met data en informatie. Een van deze baanbrekende technologieën is "Llama 2", een groot taalmodel dat de voortdurende ontwikkeling op het gebied van kunstmatige intelligentie en taalverwerking weerspiegelt.
Van OpenAI's GPT-4 tot Google's PalM 2: Language Large Models (LLM's) domineren de technische krantenkoppen. Elk nieuw model belooft beter en krachtiger te zijn dan het vorige, en in sommige gevallen de bestaande concurrentie te overtreffen. Het aantal bestaande modellen heeft de opkomst van nieuwe modellen echter niet vertraagd. Nu heeft Meta, het moederbedrijf van Facebook, Llama 2 uitgebracht, een krachtig nieuw taalparadigma. Maar wat onderscheidt Llama 2? Hoe verschilt het van GPT-4, PaLM 2 en Claude 2, en waarom zou je erom geven?
In dit artikel gaan we dieper in op "Llama 2", en bekijken we hoe dit model invloed heeft op gebieden als natuurlijke taalverwerking, tekstbegrip, parseren en programmeren. Verifiëren Bard, ChatGPT en offline Alpaca-vergelijking: wat is het beste grote taalparadigma?
Wat is Lama 2?
Llama 2, een groot taalmodel, is het product van een buitengewone alliantie tussen Meta en Microsoft, twee technologiegiganten die concurreren in de voorhoede van AI-onderzoek. Het is de opvolger van het Llama 1-model uit de Meta, dat in het eerste kwartaal van 2023 verscheen.
Je zou kunnen zeggen dat het het Meta-equivalent is van PaLM 2 van Google, GPT-4 van OpenAI en Claude 2 van Anthropic. Het is getraind op een uitgebreide dataset met openbaar beschikbare internetinformatie en heeft het voordeel van een recentere en diversere dataset dan de concurrentie. Llama 2 is getraind met 40% meer data dan zijn voorganger en is twee keer zo lang als de context (4KB).
Als je in het verleden de kans hebt gehad om met Llama 1 te communiceren, maar niet zo onder de indruk was van zijn reacties, dan is Llama 2 duidelijk superieur en misschien wel precies wat je nodig hebt. Maar hoe gaat het met de concurrentie van buitenaf?
Hoe concurreert Llama 2 met de concurrentie in het spel Large Language Models (LLM's)?
Nou ja, het hangt af van de modellen die hij tegenkomt. Ten eerste is Llama 2 een open source-project. Dit betekent dat Meta het gehele model openbaar maakt, zodat iedereen er nieuwe modellen of applicaties mee kan bouwen. Als je Llama 2 vergelijkt met andere grote open source-taalmodellen zoals Falcon of MBT, zul je merken dat het in veel opzichten beter presteert. Het is veilig om te zeggen dat Llama 2 een van de krachtigste open source grote taalmodellen is die momenteel op de markt zijn. Maar hoe kan het concurreren met geavanceerde modellen zoals OpenAI's GPT en Google's PalM AI?
We hebben ChatGPT, Bard en Llama 2 geëvalueerd op hun prestaties op tests van creativiteit, wiskundig denken, praktisch beoordelingsvermogen en programmeervaardigheden. Verifiëren ChatGPT versus Microsoft Bing AI versus Google Bard-vergelijking: wat is de beste AI-chatbot?
1. Creativiteit
Om de creativiteit en het gevoel voor humor van deze Meta te testen, hebben we hem onze kenmerkende creativiteits- en sarcasme-test gegeven. We hebben de Llama 2 AI gevraagd een gesprek te simuleren tussen twee mensen die ruzie maken over de voordelen van een ruimtereis, en hier zijn de resultaten.
Gevolgd door:
Eindelijk:
Afgaande op de resultaten van de vergelijking met ChatGPT, Bing AI en Google, waar we ook dezelfde test hebben gebruikt, is alleen de reactie van ChatGPT aanzienlijk beter dan die van Llama 2. De reactie van Llama 2 lijkt iets beter te zijn dan de reactie van Google Bard . Nadat chatbots veel creatieve taken hebben ondergaan, is ChatGPT duidelijk nog steeds de beste op het gebied van creativiteit, maar Llama loopt niet ver achter op de rest van het peloton. Verifiëren ChatGPT kan grappen maken, maar kan AI ons echt aan het lachen maken?
2. Programmeervaardigheden
Als we de programmeermogelijkheden van Llama 2 vergelijken met die van ChatGPT en Bard, is Llama 2 veelbelovend. We hebben onze drie AI-chatbots gevraagd een functionele takenlijst-app te bouwen, een eenvoudig Tetris-spel te ontwikkelen en een veilig authenticatiesysteem voor een website te creëren. Terwijl ChatGPT bijna perfecte prestaties leverde in alle drie de taken, presteerden Bard en Llama 2 op vergelijkbare wijze, die beide alleen functionele code konden leveren voor de takenlijst en het authenticatiesysteem, maar faalden in de ontwikkeling van Tetris. Hieronder ziet u een screenshot van de to-do-app gemaakt door Llama 2.
3. Wiskundige vaardigheden
Voor algebra en meetkunde liet Llama 2 ook veelbelovende resultaten zien in vergelijking met Bard, maar ChatGPT presteerde veel beter dan het in de logische rekenkundige en wiskundige problemen die we bij onze tests gebruikten. Interessant is dat Llama 2 veel van de wiskundige problemen oploste die ChatGPT en Bard in de eerste iteraties niet konden oplossen. Het is veilig om te zeggen dat Llama 2 inferieur is aan ChatGPT op het gebied van wiskundige vaardigheden, maar het laat een veelbelovende ontwikkeling zien. Verifiëren Kan ChatGPT wiskundige problemen oplossen?
4. Gezond verstand en logisch denken
Gezond verstand is een gebied waar veel chatbots nog steeds mee worstelen, zelfs het model dat bovenaan de lijst staat, ChatGPT. ChatGPT, Bard en Llama 2 gaven ons de opdracht een reeks problemen met gezond verstand en logisch redeneren op te lossen. Opnieuw presteerde ChatGPT aanzienlijk beter dan zowel Bard als Llama 2. De concurrentie tussen de Bard en de Llama 2 was hevig, waarbij de Bard tijdens onze tests een marginaal voordeel had ten opzichte van de Llama 2.
Het is duidelijk dat Llama 2 het punt van duidelijke superioriteit nog niet heeft bereikt. Ter verdediging is Llama 2 echter een relatief nieuw model, en het is vooral een ‘fundamenteel model’ in plaats van een ‘nauwkeurig’ model. Fundamentele modellen zijn grote taalmodellen die zijn ontworpen met mogelijke toekomstige wijzigingen in gedachten. Het is niet afgestemd op een specifiek domein, maar is ontworpen om een breed scala aan taken uit te voeren, hoewel soms met beperkte mogelijkheden.
Aan de andere kant is een fijn afgestemd model een basismodel dat is afgestemd om de efficiëntie in een bepaald domein te vergroten. Het is alsof je een basismodel als GPT neemt en dit afstemt op ChatGPT, zodat het publiek het in chattoepassingen kan gebruiken. Verifiëren Zelfleren voor computers realiseren: kunnen intelligente systemen gezond verstand verwerven?
Hoe je Lama 2 nu kunt gebruiken
De eenvoudigste manier om Llama 2 te gebruiken is via een platform Poe AI van Quora of het Hugging Face-cloudgehoste exemplaar. U kunt het formulier ook verkrijgen door een kopie te downloaden en deze lokaal uit te voeren.
Ga naar Llama op Quora Poe
Om Llama te bereiken op Quora's Poe AI-platform:
- je kan bezoeken Quora Poe En maak een gratis account aan.
- Log in op uw account om de AI-modelselectie-interface te openen.
- Klik op het pictogram Meer net boven het invoerveld om de beschikbare AI-modellen weer te geven.
Kies een van de beschikbare Llama 2-sjablonen en begin met het invoeren van de claim die u het leukst vindt.
Ga naar Lama op knuffelend gezicht
Om toegang te krijgen tot het knuffelgezicht op Llama, opent u de link naar de overeenkomstige Llama 2-modellen hieronder en vraagt u de AI-chatbot wat u graag zou willen zien.
De Llama-modellen hierboven en die op het Poe-platform zijn afgestemd op chattoepassingen, dus ze lijken zo dicht bij ChatGPT als je kunt krijgen voor het Llama-2-model. Weet u niet zeker welke versie u moet proberen? Wij raden de derde optie aan, 70B parameters Llama-2-chat. U kunt nog steeds met alle drie de modellen experimenteren om te zien welke het beste bij uw unieke behoeften past.
Hoewel we aanbevelen te beginnen met het grootste model dat beschikbaar is om de rekenkracht op afstand volledig te benutten bij het gebruik van HuggingFace of Poe, raden we iedereen die Llama 2 lokaal wil gebruiken aan om te beginnen met Parameter 7B, omdat deze de laagste hardwarevereisten heeft. Verifiëren Voer lokaal en gratis een kopie van ChatGPT uit op Windows met GPT4All.
Hardwarevereisten om Llama 2 lokaal uit te voeren
Voor optimale prestaties met de Model 7B adviseren wij een grafische kaart met minimaal 10GB VRAM, al melden veel mensen dat het model met 8GB RAM werkt. Bij lokaal draaien zou de volgende logische keuze parameterformulier 13B zijn. Hiervoor kunt u hoogwaardige consumenten-GPU's zoals de RTX 3090 of RTX 4090 kiezen om van de mogelijkheden te genieten. U kunt echter nog steeds een Windows-pc of een MacBook uit het middensegment uitrusten om dit model te gebruiken.
Als je de volledige kracht wilt benutten, kun je kiezen voor het grotere model. Dit model vereist echter hardware van ondernemingsklasse voor geweldige prestaties. Op ondernemingsniveau hebben we het over machines met NVIDIA A100 met 80 GB geheugen. Het Parameter 70B-model vereist gespecialiseerde en uitzonderlijk krachtige hardware voor een responsieve uitvoering. Nogmaals, het is belangrijk om erop te wijzen dat je dit model nog steeds kunt gebruiken op een minder krachtige hardware-installatie. De responstijd kan echter frustrerend traag zijn en kan oplopen tot enkele minuten per prompt. Houd zorgvuldig rekening met uw GPU- en geheugenvereisten voordat u het juiste model voor uw behoeften selecteert. Of gebruik een HuggingFace-instantie.
Als u over de hardware en technische diepgang beschikt om het Llama 2-model lokaal op uw apparaat uit te voeren, kunt u toegang daartoe aanvragen met behulp van het Llama Access Request-formulier voor Meta. Nadat u uw naam, e-mailadres, locatie en de naam van uw organisatie hebt opgegeven, beoordeelt Meta uw verzoek, waarna de toegang binnen een tijdsbestek van enkele minuten tot twee dagen wordt geweigerd of verleend. Mijn toegang werd binnen enkele minuten verleend, dus ik hoop dat jij ook geluk hebt. Verifiëren De redenen waarom beveiligingsproblemen voor generatieve AI erger worden.
Lama 2: Een belangrijke eerste stap
Llama 2 is misschien niet het meest geavanceerde taalmodel dat beschikbaar is, maar omdat het open source is, vertegenwoordigt het een belangrijke eerste stap in de richting van de ontwikkeling van transparante en vooruitstrevende AI.
Hoewel GPT van OpenAI momenteel betere prestaties leveren, betekent OpenAI's gated benadering van ontwikkeling dat het bedrijf de groei en het ontwikkelingstempo van het model controleert. Met een open source-model als Llama kan de bredere open source-gemeenschap iteratief innoveren om nieuwe producten te bouwen die misschien niet mogelijk zijn binnen een ommuurd tuinsysteem. Je kunt nu bekijken Topplatforms die ChatGPT gebruiken om aangepaste online cursussen te maken.
