Naukowcy z belgijskiego centrum badań nad półprzewodnikami imec wprowadzili hybrydową architekturę pamięci NAND-DRAM, podobno pierwszą trójwymiarową (3D) implementację technologii urządzeń ze sprzężeniem ładunkowym (CCD) przeznaczoną do pamięci aplikacje. To opracowanie ma na celu rozwiązanie problemu obecnej ściany pamięci w obliczeniach sztucznej inteligencji (AI), gdzie jednostki przetwarzające, takie jak procesory graficzne i akceleratory, borykają się z opóźnieniami z powodu nieodpowiedniej przepustowości pamięci i wydajności energetycznej.
Nowa architektura łączy szybkość i możliwość ponownego zapisu pamięci DRAM z gęstością i wydajnością typowo kojarzoną z pamięcią NAND. Historycznie rzecz biorąc, technologia CCD była wykorzystywana w aparatach cyfrowych, sprzęcie wideo i obrazowaniu naukowym, ale innowacja firmy imec wykorzystuje ją w celu zapewnienia zaawansowanych funkcji pamięci.
Architektura 3D CCD pozwala na pionowe układanie komórek pamięci, w przeciwieństwie do konwencjonalnej pamięci DRAM, która układa komórki na płaskiej płaszczyźnie. To pionowe ustawienie zmniejsza koszty produkcji i wycieki, pokonując ograniczenia napotykane wcześniej w technologii DRAM. W projekcie zastosowano tlenek indu i galu cynku (IGZO) jako zamiennik krzemu, co zapewnia zmniejszenie wycieków i lepszą retencję danych w procesie.
Firma Imec wykazała w swoim prototypie prędkość przesyłania ładunku przekraczającą 4 MHz, aczkolwiek obecnie wykorzystuje ograniczoną liczbę ułożonych warstwowo. Architektura ma potencjał skalowalności podobny do technologii NAND, w której istniejące komercyjne układy scalone przekraczają 200 warstw w stosie.
Według Maartena Rosmeulena, dyrektora programowego ds. pamięci masowej w firmie imec, konstrukcja tej architektury umożliwia dostęp do danych na poziomie bloków, w przeciwieństwie do tradycyjnej pamięci DRAM z możliwością adresowania bajtów, dzięki czemu jest ona bardziej odpowiednia dla nowoczesnych obciążeń AI. Rosmeulen stwierdziła, że nowe urządzenie może służyć jako pamięć buforowa zintegrowana z architekturą łańcuchów 3D NAND Flash, optymalizując opłacalność i gęstość bitową.
Oczekuje się, że architektura hybrydowa zapewni większą trwałość i mniejsze zużycie, co może okazać się korzystne w przyszłych zadaniach związanych ze szkoleniem sztucznej inteligencji i wnioskowaniem. Imec planuje pozycjonować tę architekturę jako urządzenie Compute Express Link (CXL) typu 3, ułatwiające połączenia między procesorami graficznymi, procesorami i akceleratorami – co jest ważnym czynnikiem, ponieważ modele sztucznej inteligencji wykraczają poza możliwości lokalnych zasobów procesora graficznego.
Chociaż prototyp przedstawia znaczące postępy, imec zdaje sobie sprawę z kilku wyzwań, w tym zachowania termicznego, skalowania liczby warstw i praktycznej integracji z istniejącymi systemami. Jeśli te przeszkody zostaną pomyślnie usunięte, architektura hybrydowa może przyczynić się do obniżenia znacznych kosztów związanych z pamięcią DRAM w infrastrukturze sztucznej inteligencji.
