Embedding

Embedding (po polsku osadzenie wektorowe) to zamiana tekstu, obrazu lub innego obiektu na wektor, czyli listę liczb, w taki sposób, żeby treści o podobnym znaczeniu dostawały podobne wektory. Dzięki temu komputer może porównywać znaczenie, a nie tylko pojedyncze słowa. Zdania „Fed obniża stopy” i „Rezerwa Federalna tnie koszt pieniądza” nie mają wspólnych słów, ale ich embeddingi leżą blisko siebie.

Embeddingi rzadko widać bezpośrednio, a stoją za wieloma narzędziami AI, z których korzystają inwestorzy: wyszukiwaniem w raportach, czatami „z dokumentami”, filtrami newsów czy ocenianiem sentymentu. Z mojej perspektywy warto rozumieć, jak działają, bo od jakości embeddingów zależy, jakie fragmenty danych w ogóle trafią do modelu, zanim ten cokolwiek odpowie.

Co to jest embedding w prostych słowach

Wyobraź sobie mapę, na której każdy tekst jest punktem. Teksty o stopach procentowych leżą w jednej okolicy, o kopaniu bitcoina w innej, o wynikach spółek technologicznych w jeszcze innej. Embedding to współrzędne tekstu na tej mapie. Różnica polega na tym, że zamiast dwóch wymiarów, jak na zwykłej mapie, model używa ich setek albo tysięcy. Pojedynczy wymiar zwykle nie ma prostego znaczenia, dopiero cały wektor opisuje treść.

Embedding tworzy specjalny model, tak zwany model embeddingów. Wysyłasz mu tekst, a on zwraca wektor o stałej długości, niezależnie od tego, czy tekst ma pięć słów, czy dwie strony.

Podobieństwo kosinusowe na prostym przykładzie

Najczęściej używaną miarą podobieństwa dwóch embeddingów jest podobieństwo kosinusowe (ang. cosine similarity). Mierzy ono, jak bardzo dwa wektory wskazują w tym samym kierunku. Wzór to iloczyn skalarny wektorów podzielony przez iloczyn ich długości. Wynik 1 oznacza ten sam kierunek, 0 brak związku, a wartości ujemne kierunki przeciwne.

Weźmy trzy uproszczone, trzywymiarowe wektory. Prawdziwe embeddingi mają setki wymiarów, ale zasada jest identyczna:

• News A: „Fed obniża stopy procentowe”, wektor [0,9; 0,1; 0,3].
• News B: „Rezerwa Federalna tnie koszt pieniądza”, wektor [0,8; 0,2; 0,4].
• News C: „Hashrate bitcoina na rekordowym poziomie”, wektor [0,1; 0,9; 0,2].

Dla pary A i B iloczyn skalarny wynosi 0,9 × 0,8 + 0,1 × 0,2 + 0,3 × 0,4 = 0,86. Długość wektora A to pierwiastek z 0,91, czyli około 0,954, a długość B to pierwiastek z 0,84, czyli około 0,917. Podobieństwo kosinusowe wynosi 0,86 / (0,954 × 0,917), czyli około 0,98. Dla pary A i C iloczyn skalarny to tylko 0,24, a podobieństwo wychodzi około 0,27. Dla pary B i C około 0,40. Te wyniki policzyłem w Pythonie.

Wniosek: A i B to praktycznie ta sama informacja opisana innymi słowami, a C dotyczy zupełnie innego tematu. Tak właśnie działa wyszukiwanie semantyczne. Jeśli wektory są znormalizowane do długości 1, podobieństwo kosinusowe sprowadza się do samego iloczynu skalarnego, co przyspiesza obliczenia.

Bazy wektorowe

Gdy masz kilka tysięcy dokumentów, porównanie zapytania z każdym z nich nie stanowi problemu. Przy milionach fragmentów potrzebna jest baza wektorowa (ang. vector database). To baza danych zoptymalizowana pod przechowywanie embeddingów i szybkie wyszukiwanie najbliższych sąsiadów. Zwykle korzysta z algorytmów przybliżonych, które zwracają bardzo dobre, choć nie zawsze idealne wyniki, w zamian za ogromny przyrost szybkości. Funkcje wyszukiwania wektorowego mają dziś zarówno wyspecjalizowane bazy, jak i klasyczne bazy danych, na przykład PostgreSQL z rozszerzeniem pgvector.

Zastosowania embeddingów w inwestowaniu

• Wyszukiwanie semantyczne. Szukasz w setkach stron raportów fragmentów o „ryzyku walutowym”, a system znajduje też akapity o „ekspozycji na kurs dolara”, choć nie padło w nich Twoje sformułowanie.
• RAG. Czat „z dokumentami” najpierw zamienia Twoje pytanie na embedding, wyszukuje najbardziej podobne fragmenty w bazie i dopiero je przekazuje modelowi językowemu do odpowiedzi.
• Klasyfikacja newsów. Embeddingi nagłówków można przypisać do kategorii (polityka monetarna, regulacje, hacki, wyniki spółek) i filtrować strumień informacji pod swoją strategię.
• Analiza sentymentu. Na embeddingach da się wytrenować prosty klasyfikator, który ocenia, czy news jest pozytywny, czy negatywny dla aktywa. To tańsze i szybsze niż pytanie dużego modelu o każdy nagłówek.
• Podobne spółki i raporty. Porównując embeddingi opisów działalności, możesz znaleźć firmy o podobnym modelu biznesowym, także spoza indeksów, które obserwujesz. Podobnie znajdziesz raporty, w których zarząd pisał o podobnych problemach.
• Usuwanie duplikatów. Ta sama informacja pojawia się w dziesiątkach serwisów. Bardzo wysokie podobieństwo embeddingów pozwala zostawić jedną wersję i nie przeceniać „lawiny newsów”.

Modele embeddingów

• OpenAI text-embedding-3. Rodzina wprowadzona 25 stycznia 2024 roku: text-embedding-3-small (domyślnie 1536 wymiarów) i text-embedding-3-large (domyślnie 3072 wymiary), z limitem 8192 tokenów wejścia. Wektory można skracać parametrem dimensions. W dniu premiery ceny wynosiły 0,02 USD za milion tokenów dla wersji small i 0,13 USD dla large.
• Voyage AI. Firma należąca do MongoDB. 15 stycznia 2026 roku zaprezentowała rodzinę voyage-4 (voyage-4-large, voyage-4, voyage-4-lite i voyage-4-nano), z czego wersja nano ma otwarte wagi do pracy lokalnej.
• Modele open source. Przykładem jest seria Qwen3-Embedding od Alibaby, wydana 5 czerwca 2025 roku w rozmiarach 0,6, 4 i 8 mld parametrów na licencji Apache 2.0, obsługująca ponad 100 języków. Popularne są też wielojęzyczne modele z rodzin E5 i BGE. Takie modele uruchomisz na własnym komputerze, bez wysyłania danych na zewnątrz.

Porównania jakości publikuje się w benchmarku MTEB. Dla języka polskiego istnieje osobny zestaw PL-MTEB, opracowany w 2024 roku przez badaczy z Ośrodka Przetwarzania Informacji w Warszawie, obejmujący 28 zadań.

Co to oznacza dla Ciebie jako inwestora

Jeśli korzystasz z narzędzia, które „rozmawia z Twoimi dokumentami”, jakość odpowiedzi w dużej mierze zależy od embeddingów i od tego, jak tekst został pocięty na fragmenty. Model językowy nie zobaczy akapitu, którego wyszukiwarka nie znalazła. Gdy odpowiedź wydaje się niepełna, sprawdź, które fragmenty zostały użyte. Przy własnych projektach, na przykład filtrze newsów, zacznij od gotowego modelu, przetestuj go na kilkudziesięciu ręcznie opisanych przykładach i dopiero potem automatyzuj.

Ryzyka i ograniczenia embeddingów

• Język polski. Wiele modeli trenowano głównie na angielskim. Polska fleksja i branżowy żargon mogą obniżać jakość wyszukiwania, dlatego warto sprawdzić wyniki modelu w PL-MTEB albo na własnych tekstach.
• Podobieństwo to nie sens logiczny. Zdania „Fed podnosi stopy” i „Fed obniża stopy” mogą mieć bardzo podobne embeddingi, bo dotyczą tego samego tematu. Do oceny kierunku informacji sam embedding często nie wystarcza.
• Aktualizacja. Zmiana modelu embeddingów oznacza konieczność przeliczenia całej bazy, bo wektory z różnych modeli zwykle nie są ze sobą porównywalne. Nowe dokumenty też trzeba na bieżąco dodawać.
• Koszty. Pojedyncze zapytanie jest tanie, ale przeliczanie milionów fragmentów i utrzymanie bazy wektorowej kosztuje, zwłaszcza przy dużych wektorach.
• Prywatność. Wysyłając dokumenty do zewnętrznego API, przekazujesz ich treść dostawcy. Przy poufnych danych lepszy jest model lokalny.
• Czarna skrzynka. Trudno wyjaśnić, dlaczego dwa teksty są uznane za podobne. Wyniki trzeba weryfikować na przykładach, a nie przyjmować na wiarę.

Najczęstsze pytania o embedding

Czym różni się embedding od modelu językowego?

Model językowy generuje tekst. Model embeddingów niczego nie pisze, tylko zamienia tekst na wektor liczb, który służy do porównywania, wyszukiwania i klasyfikacji.

Ile wymiarów ma embedding?

Zależy od modelu, zwykle od kilkuset do kilku tysięcy. Na przykład text-embedding-3-large domyślnie zwraca 3072 liczby. Więcej wymiarów nie zawsze oznacza lepsze wyniki, a zawsze większe koszty przechowywania.

Czy potrzebuję bazy wektorowej?

Przy kilku tysiącach dokumentów nie, wystarczy porównać wektory w pamięci, na przykład w Pythonie. Baza wektorowa przydaje się przy dużych zbiorach i częstych zapytaniach.

Czy embeddingi przewidują ruchy cen?

Nie. To narzędzie do porządkowania i wyszukiwania informacji. Mogą być jednym z wejść do modelu prognostycznego, ale same niczego nie przewidują.

Podsumowanie

Embedding to zamiana tekstu lub obrazu na wektor liczb, w którym podobne znaczenie przekłada się na bliskie położenie wektorów. Podobieństwo mierzy się najczęściej kosinusowo, a duże zbiory przechowuje w bazach wektorowych. Na embeddingach opierają się wyszukiwanie semantyczne, RAG, klasyfikacja newsów, analiza sentymentu i wyszukiwanie podobnych spółek. Wybór obejmuje modele komercyjne, takie jak OpenAI text-embedding-3 i Voyage, oraz otwarte, jak Qwen3-Embedding. Dla inwestora z Polski najważniejsze ograniczenia to jakość dla języka polskiego, koszty przeliczania danych i to, że podobieństwo tematu nie mówi nic o kierunku informacji.