Na początku modliliśmy się do bogów Pioruna. Potem odkryliśmy magnetyzm i elektryczność statyczną, którymi bawiliśmy się przez jakieś 1200 lat, aż wreszcie udało nam się złapać piorun w butelkę i w efekcie skonstruować baterię, aby na początku XIX wieku zacząć używać prądu do komunikowania się na większe odległości. Pierwsze komputery powstały niecałe 100 lat temu (jak ten czas, nieprawdaż?) i potem już poszło szybko.
Teraz mamy prąd na procesorze, który potrafi szybko, naprawdę szybko, zamieniać zera na jedynki i z powrotem. Jedynki owe, wraz z nieodłącznymi zerami, pozwoliły na skonstruowanie (mikro-)kodu maszynowego, na bazie którego stworzono asembler, do którego kompilowane są języki wyższego poziomu, takie jak C czy Rust.
Jednak chociaż bardzo mądre głowy włożyły kupę wysiłku w to żeby to wszystko hulało jak najszybciej, niektórym dalej było zbyt wolno, więc z kart graficznych, obsługujących oryginalnie wyświetlanie pikseli na ekranie, wyewoluowała osobna gałąź urządzeń oferujących obliczenia nie tylko bardzo szybkie, ale w dodatku przeprowadzane równolegle na bardzo dużej liczbie potoków przetwarzających.
Nagle okazało się, że można bardzo, bardzo szybko mnożyć bardzo, bardzo duże macierze. Ponieważ operacja mnożenia macierzy jest kluczowa do stworzenia sztucznej inteligencji, jak grzyby po deszczu zaczęły rosnąć twory typu GPT, Bard czy Claude, którym można zadawać pytania w języku naturalnym i w takim też języku otrzymywać odpowiedzi, a wszystko to dzięki bardzo, bardzo szybkiemu mnożeniu macierzy.
Czy to wystarczyło, aby zastopować to zerojedynkowe szaleństwo?
Bynajmniej.
Ostatnio bowiem paru jajogłowych wpadło na pomysł zatrudnienia sztucznej inteligencji do stawiania pytań sztucznej inteligencji. Podobno stawia pytania średnio od 8% do nawet 50% lepsze niż żywy człowiek (jak tę "lepszość" mierzyć, już nie doczytałem, na pewno jest na to jakiś wielopiętrowy wzór).
Dziwny świat.
Ciekawe, ale chyba nie rewolucyjne. Przypomina mi optymalizację parametrów algorytmu genetycznego przy pomocy algorytmu genetycznego. A takie rzeczy to z ćwierć wieku temu robiliśmy. Znaczy ludzie.
Tak czy inaczej, całe te LLMy to nadal – w przybliżeniu – prawdopodobieństwo. Ale zgadzam się, że wyniki całkiem imponujące.