Według dr hab. Piotra Miłośa, profesora Polskiej Akademii Nauk i lidera zespołu badawczego w IDEAS NCBR, LongLLaMA może przetwarzać jednorazowo nawet 8 tysięcy tokenów, co odpowiada około 30-50 stronom tekstu. W niektórych przypadkach model ten jest w stanie obsłużyć aż 256 tysięcy tokenów, co stanowi znaczący skok w porównaniu do istniejących modeli. Co więcej, LongLLaMA działa wyjątkowo efektywnie i zużywa niewielką ilość energii, co jest ważne z punktu widzenia zrównoważonego rozwoju technologii.

Co wyróżnia model językowy stworzony prze Polaków?

Jedną z najważniejszych zalet LongLLaMA jest jego zdolność do przetwarzania bardzo długich danych wejściowych. Model ten może pracować z dowolną ilością kontekstu, nie ograniczając się do określonego limitu tokenów. W przeprowadzonych testach, gdzie badano zdolność modelu do przypomnienia sobie hasła podanego na początku długiego tekstu, LongLLaMA osiągnęła znakomitą dokładność. Podczas gdy konkurencyjny model OpenLLaMA radził sobie jedynie z promptem o długości 2 tysięcy tokenów, LongLLaMA zachowywała 94,5% dokładności po otrzymaniu promptu o długości 100 tysięcy tokenów i 73% dokładności po otrzymaniu 256 tysięcy tokenów.

LongLLaMA otwiera nowe możliwości w dziedzinie przetwarzania języka naturalnego. Może być wykorzystywany do generowania tekstu, edycji tekstu, prowadzenia rozmów z użytkownikami, tworzenia streszczeń, tłumaczenia i wielu innych zadań. Jednak jego największym atutem jest zdolność do pracy z długimi tekstami, co stanowi znaczący postęp w stosunku do istniejących modeli językowych.

Czym LongLLaMA różni się od ChatGPT?

Warto również zaznaczyć, że LongLLaMA różni się od ChatGPT nie tylko pod względem osiąganych wyników, ale także pod kątem dostępności. Model ten jest dostępny publicznie i każdy może pobrać go ze strony HuggingFace oraz modyfikować oprogramowanie. To otwiera drzwi do dalszych innowacji i dostosowywania modelu do różnych zastosowań. W przeciwieństwie do tego, ChatGPT jest produktem komercyjnym i nie został udostępniony publicznie.

Podsumowując, opracowanie modelu LongLLaMA przez polskich naukowców stanowi istotny krok w przodującej dziedzinie sztucznej inteligencji. Ten model językowy o niezwykłych możliwościach przetwarzania tekstu ma potencjał zmienić sposób, w jaki korzystamy z aplikacji i narzędzi opartych na sztucznej inteligencji. Jego zdolność do pracy z długimi tekstami otwiera nowe perspektywy w dziedzinie analizy tekstu, generowania treści i wielu innych obszarach. Warto śledzić rozwój tego modelu, który może przyczynić się do dalszych przełomów w dziedzinie przetwarzania języka naturalnego.