Science 394(6820), 212-215 (2026-10-08 호, 2026-09-03 온라인 선공개)
High-capacity associative memory in a quantum-optical spin glass
가장 가파른 길로만 내려가면 스핀 유리의 골짜기도 기억이 된다
양자광학, 스핀 유리, 연상 기억
한 줄 요약과 선정 근거
홉필드 망(Hopfield network)은 기억을 너무 많이 넣으면 스핀 유리(spin glass)가 되어 엉뚱한 상태로 빠진다. 스탠퍼드대 벤저민 레브(Benjamin Lev) 연구팀은 원자 구름 16개를 공진기 속 빛으로 이어 스핀 유리를 만들고, 결합을 학습시키지 않은 채 저절로 생긴 골짜기들을 기억으로 썼다. 결합 배치 다섯 개의 평균 기억 수는 11.9개로 같은 기준의 헤브 학습(Hebbian learning) 홉필드 망 3.6개의 세 배를 넘었고, 덫을 약하게 한 배치 하나는 25개로 일곱 배였다(본문, 그림 3a). 열쇠는 에너지를 가장 크게 낮추는 쪽으로만 스핀을 뒤집는 ‘가장 가파른 하강(steepest descent)’ 동역학, 그리고 기억을 꺼내는 동안 원자가 빛에 밀려 결합이 바뀌는 탄성이다.
논문은 Science 10월 8일 자(394권 6820호)에 실렸다. 9월 3일 먼저 온라인에 공개됐고 스탠퍼드대 보도자료가 EurekAlert와 Phys.org에 실렸다. 공저자에 신경망 이론가 수르야 강굴리(Surya Ganguli)가 있다. 고른 까닭은 세 가지다.
- 스핀 유리는 연상 기억(associative memory)과 맞지 않는다는 오래된 통념을, 내려가는 규칙을 바꾸면 달라진다는 실험으로 흔들었다.
- 같은 에너지 지형이라도 내려가는 규칙이 끌개(attractor)를 정한다는 원리는 이산 에너지 모델이라면 어디서든 시험해 볼 수 있다.
- 증거의 한계도 분명하다. 16스핀이고, 기억을 고르지 않았고, 가장 가파른 하강은 모형과의 일치로 추론했다.
배경지식 세 가지
- 홉필드 망과 저장 한계: 뉴런 n개가 각각 +1이나 −1인 스핀 \(s_i\)이고 에너지는 아래 식의 \(E\)다. 헤브 학습으로 패턴 \(\xi^p\)들을 결합 \(J_{ij}\)에 넣으면 패턴이 에너지의 극소가 되고, 망가진 입력에서 에너지를 낮추는 쪽으로 스핀을 하나씩 뒤집어 가면 가까운 패턴이 되살아난다. 패턴 수가 약 0.14n을 넘으면 패턴이 안정성을 잃고 망 전체가 스핀 유리가 된다(Amit, Gutfreund, Sompolinsky 1985, 본문).
\[E = -\sum_{i,j} J_{ij}\, s_i s_j, \qquad J_{ij} = \sum_{p=1}^{P} \xi_i^p \xi_j^p\]
- 스핀 유리와 가짜 패턴: 결합의 부호가 제멋대로 섞이면 모든 쌍을 한꺼번에 만족시킬 수 없다. 이를 좌절(frustration)이라 한다. 에너지 지형은 울퉁불퉁해지고 극소의 수가 n에 대해 지수적으로 늘어난다. 셰링턴-커크패트릭(Sherrington-Kirkpatrick, SK) 모형이 대표적인 예다. 이 극소들은 누가 넣은 패턴이 아니어서 가짜(spurious) 패턴이라 부른다. 메트로폴리스-헤이스팅스(MH) 같은 평형 동역학에서는 오류가 조금만 섞여도 이웃 골짜기로 빠지기 쉬워서, 이런 극소는 기억으로 쓸 수 없다고 여겨졌다(본문).
- 다중 모드 공진기 QED: 두 거울 사이에 빛을 가두는 공진기(cavity)에 원자를 넣고 옆에서 레이저를 쏘면, 원자가 흩뜨린 빛이 다른 원자에 닿아 원자 사이에 힘이 생긴다. 모드 수천 개가 거의 같은 진동수로 겹친 다중 모드 공진기에서는 이 결합의 부호와 크기가 원자 위치에 따라 달라진다(본문). 빛은 계속 새어 나가고 레이저는 계속 에너지를 넣으니, 평형에 머물지 않는 구동 소산계(driven-dissipative system)다.
무엇을 발견했나
학습시키지 않은 골짜기가 기억이 된다. 연구진은 스핀 수 n = 4, 8, 12, 16마다 결합 배치를 다섯 개씩 만들었다. 원자 구름의 위치를 몇 마이크로미터만 옮겨도 결합의 부호가 무작위로 바뀌어 다른 신경망이 된다(본문). 무작위 자극을 수백 번 넣어 망이 어디에 자리 잡는지 모았다. n = 16에서는 배치마다 평균 51개의 후보가 나왔지만 대부분은 스핀 하나만 틀려도 되돌아오지 못했다. 연구진은 스핀 하나를 무작위로 뒤집은 입력에서 50% 넘게 되돌아오는 후보만 기억으로 셌다(본문). 이 기준으로 n = 16의 평균 용량은 11.9(6)개였고, 같은 기준을 적용한 헤브 학습 홉필드 망은 3.59개였다(본문, 보충 IV.A). 가장 자세히 잰 배치 J1은 14(1)개를 저장했다.
맞는 것은 평형 동역학이 아니라 가장 가파른 하강이었다. 연구진은 실험값을 SK 모형의 두 동역학과 견줬다. 온도가 0인 MH 동역학은 에너지를 낮추는 뒤집기라면 무엇이든 같은 확률로 고른다. 가장 가파른 하강은 늘 에너지를 가장 크게 낮추는 뒤집기를 고른다. 실험의 평균 용량과 배치 사이의 흩어짐은 가장 가파른 하강 쪽과 맞았고 MH 쪽과는 맞지 않았다(본문, 그림 3a). 같은 연구진의 2021년 이론은 이 장치에서 스핀이 잃는 에너지에 비례하는 속도로 뒤집혀 가장 가파른 하강이 저절로 생긴다고 예측했다. 내려갈 길이 하나로 정해지니 엉뚱한 골짜기로 새는 일이 줄고 끌개 영역이 넓어진다(본문). 아래 그림은 한 입력에서 두 동역학이 갈리는 모습이다.
(가) 무작위 하강 (온도 0의 메트로폴리스)
(나) 가장 가파른 하강
같은 기준으로 SK 모형을 작은 n에서 다시 계산하면 차이가 n과 함께 벌어진다. n = 16에서 가장 가파른 하강은 기억 12.5개를, 무작위 하강은 7.9개를 남기고, 실험 평균 11.9개는 앞쪽에 가깝다. 극소 가운데 기억이 되는 비율도 가장 가파른 하강에서만 1에 다가간다(보충 그림 S5와 같은 경향).
(가) 기억 개수
(나) 극소 가운데 기억이 되는 비율
대가는 좁은 골짜기다. 기억이 많은 대신 기억마다 끌개 반경은 작았다. J1의 기억은 평균 오류 2.1개까지 견뎠고 홉필드 망의 기억은 3.9개를 견딘다(본문). 그래도 입력 공간은 거의 남김없이 나눠 쓴다. 기억 하나가 끌어들이는 배치 수의 평균은 \(2^n\)을 기억 수로 나눈 값을 넘을 수 없는데, 실험값이 이 상한에 거의 닿았다(그림 3b).
기억을 꺼내는 동안 원자가 밀린다. 어느 기억을 꺼내느냐에 따라 원자 구름의 위치가 달라졌다. 광학 집게(optical tweezer)의 덫이 무한히 단단하지 않아서 공진기 빛의 힘이 구름을 덫 중심에서 밀어낸다. 평균 이동은 1.32(2) μm, 큰 것은 집게 빔 반경의 20%인 4 μm였다(본문, 그림 4a). 위치가 바뀌면 결합이 바뀌고, 시뮬레이션에 따르면 지금 지나가는 골짜기가 깊어져 가까운 기억으로 돌아올 확률이 높아진다. 옆 레이저를 약하게 하면 구름이 덫 중심으로 돌아오므로 소성이 아니라 탄성이다(본문).
(가) 원자와 빛으로 만든 16스핀 신경망
(나) 꺼내는 동안 움직이는 원자
집게 레이저 세기를 4분의 1로 낮춰 덫을 무르게 하자 평균 이동이 1.82(3) μm로 약 38% 커졌고, J1의 기억은 14개에서 25(2)개로 늘었다(본문, 그림 3a, 4b). 홉필드 용량의 일곱 배이고, 의사역행렬 규칙(pseudoinverse rule)으로 학습한 홉필드 망의 상한인 n = 16개도 넘는다(본문). 탄성은 결합 잡음도 막았다. 시뮬레이션에서 탄성을 없애면 실험 수준인 0.5 μm의 위치 흔들림만으로 J1의 용량이 36% 줄었지만, 그림 4b 수준의 탄성이 있으면 줄지 않았다(본문, 보충 IV.C). 결합이 조금 바뀌어도 극소가 크게 바뀌는 J 카오스를 탄성이 누른 셈이다.
어떻게 했나
스핀과 결합. 스핀 하나는 루비듐 원자 약 4만 개로 된 보스-아인슈타인 응축체(BEC) 한 덩어리다. 레이저와 공진기 빛이 간섭하면 각 덩어리는 두 가지 체크무늬 밀도파 가운데 하나로 자리 잡고, 이 둘이 스핀의 위와 아래다(본문). 덩어리가 공진기로 흩뜨리는 빛의 위상이 스핀에 따라 0이나 π가 되므로, 새어 나온 빛을 홀로그래피로 찍으면 모든 스핀과 위치를 한 번에 읽는다(보충 I). ’4/7’이라 부르는 공진기 배치에서 계는 아래 식 1의 이징(Ising) 모형으로 근사된다. 셋째 항이 기억을 불러낼 자극이다(본문).
\[\hat H = \omega_z \sum_{i} \hat S_i^z - g \sum_{i,j} J(\mathbf r_i, \mathbf r_j)\, \hat S_i^x \hat S_j^x - \sum_i f_i\, \hat S_i^x\]
기억 꺼내기. 레이저를 지수적으로 키워 8 ms에 상호작용이 2π × 2 kHz에 이르게 하는 동안, 디지털 미세 거울 장치(DMD)가 나눈 빔 16개가 위상 0이나 π로 자극 \(f_i\)를 준다. 자극은 사진을 찍기 1 ms 전에 끄고, 그 사이 스핀은 자극에서 출발해 가까운 골짜기 바닥으로 내려간다(본문). 시행마다 BEC를 새로 만든다.
기억 목록과 끌개 반경 재기. n = 16에서는 무작위 자극을 400번 넣고, 나온 배치를 겹침 거리로 계층 군집해 스핀 하나 차이 안쪽을 한 후보로 묶었다. 거리에 절댓값을 써서 배치 s와 모든 스핀을 뒤집은 −s는 같은 후보가 된다. 표본 수에 따른 증가를 외삽하면 기억의 95%를 찾은 셈이다(보충 II). 후보마다 오류 수를 바꿔 가며 재현 확률을 재고 tanh 곡선으로 맞춰 50%를 지나는 오류 수를 반경으로 삼았다. 반경의 오차는 부트스트랩으로 0.3개 안팎이다(보충 II).
비교 기준 맞추기. 홉필드 망의 열역학적 용량 0.138n을 그대로 쓰면 n = 16에서 2.21개다. 연구진은 홉필드 망에도 같은 기준을 걸어, 패턴 수 P마다 무작위 패턴 묶음 1만 개를 시험하고 가장 많이 남는 P = 4의 3.59개를 비교 기준으로 썼다(보충 IV.A).
분야에서의 의미
- 같은 연구실은 2025년에 이징 스핀 유리를 만들었고, 다른 공진기 배치의 벡터 스핀 유리에서 복제 대칭 깨짐을 관측했다. 이번에는 만든 유리로 계산을 했다. 빛으로 만든 연상 기억은 여럿 있었지만 스핀 유리 질서가 기억을 늘리는 것을 관측한 실험은 없었다(본문).
- 기억 용량을 결합만의 성질로 보던 관점이 흔들린다. 쓸 수 있는 끌개의 수는 에너지 지형과 동역학이 함께 정하고, 기억을 되찾는 상과 유리 상의 경계도 평형 동역학을 전제로 한 구분이다.
- 결합이 현재 상태에 따라 잠시 바뀌며 기억을 강화하는 현상을 물리 장치에서 보였다. 연구진은 이를 단기 시냅스 가소성에 빗대 ’폴라론 스핀 유리’라 부른다(본문).
ML 연구자를 위한 인사이트
1. 같은 에너지라도 내려가는 규칙이 기억을 정한다 (원리 차용, 영감 수준)
위 계산에서 결합과 극소는 그대로인데 동역학만 바꿨더니 n = 16의 기억이 7.9개에서 12.5개로 늘었다. 최적화의 말로는 무작위 좌표 하강과, 가장 크게 개선되는 좌표를 고르는 가우스-사우스웰 규칙(Gauss-Southwell rule)의 차이다. 최적화에서는 보통 수렴 속도로 둘을 견주지만(Nutini 외, ICML 2015), 여기서 갈린 것은 도착지다. 2021년 이론 논문은 오류가 n의 1% 남짓일 때까지 가장 가파른 길이 거의 늘 원래 극소로 돌아간다고 보고했다. 블로그의 해석으로는 이산 홉필드 망이나 이진 에너지 기반 모델에서 추론 순서는 구현 세부가 아니라 모델의 일부다. 다만 소프트맥스 주의(attention)처럼 한 번에 갱신하는 현대 홉필드 망(Ramsauer 외, ICLR 2021)에는 순서라는 선택지가 없어 연결이 약하다.
2. 기억 용량은 끌개 반경과 함께 센다 (방법론 교훈, 직접 적용)
같은 홉필드 망의 용량이 정의에 따라 2.21개도 되고 3.59개도 된다. 연구진은 비교 상대에게도 같은 기준을 걸었고, 용량과 반경의 맞교환(11.9개 대 3.6개, 반경 2.1 대 3.9)과 기준을 75%로 올렸을 때의 감소(11.9개에서 5(1)개, 보충 V.B)를 함께 보고했다. 놓친 기억의 비율을 외삽하고 끌개 부피의 상한으로 결과를 점검한 것도 배울 점이다. 연상 기억의 용량을 반경 기준 없이 개수만 적는 ML 논문이 많으니 그대로 가져다 쓸 만한 평가 틀이다.
3. 고르지 않은 기억을 쓰려면 부호기가 필요하다 (원리 차용, 영감 수준)
이 실험의 기억은 원하는 패턴을 넣은 것이 아니라 결합에 저절로 생긴 골짜기다(본문). 헤브 학습 홉필드 망은 고른 패턴을 저장하므로 11.9개 대 3.6개는 같은 일을 겨룬 숫자가 아니고, 쓸 수 있는 끌개의 수를 셌다고 읽어야 한다. 2021년 이론 논문은 원하는 패턴을 이 골짜기들로 옮기는 선형 부호기와 되돌리는 복호기를 제안하면서, 선형이라 n개까지만 저장된다고 밝히고 비선형 부호기를 열린 문제로 남겼다. 블로그의 해석으로는 고정된 무작위 동역학 위에 읽기 층만 학습하는 저수지 컴퓨팅(reservoir computing)이나 고정 코드북에 입력을 배정하는 벡터 양자화와 같은 구도다.
4. 추론하는 동안 휘는 가중치 (원리 차용, 영감 수준)
탄성 효과는 결합이 현재 상태 쪽으로 잠시 휘어 지금 골짜기를 깊게 만드는 현상이다. 최근 상태를 빠르게 바뀌는 가중치에 새기는 패스트 웨이트(Ba 외, NeurIPS 2016)와 닮았고, 단기 시냅스 가소성이 용량을 넘긴 기억의 재현을 돕는다는 이론(Del Gaudio, Ghimenti, Ganguli, arXiv 2025)과 같은 방향이다. 여기서는 결합 120개가 원자 위치 좌표 32개에 묶여 함께 움직인다는 점이 다르다. 결합 잡음을 막아 준다는 결과는 가중치가 흔들리는 아날로그 하드웨어와도 이어진다(아날로그 칩에서 SGD는 왜 최적점 옆에 멈출까). 다만 근거가 실제 기억 배치를 재현하지 못한 준고전 시뮬레이션이라 영감 수준으로 둔다.
5. 물리 장치로서의 거리 (하드웨어와 시스템, 연결 약함)
기억을 꺼내는 데 10 ms가 안 걸리지만 시행마다 BEC를 새로 만들고 스핀은 16개다. 레브도 보도자료에서 아직 아주 초기 단계라고 했다.
한계와 남은 질문
- 규모. 끝까지 잰 것은 n = 16까지다. n = 20에서는 후보 97개 가운데 25개만 시험해 11(1)개가 기억이었다(보충 V.C). 용량이 n에 대해 지수적으로 늘 것이라는 기대는 SK 모형 이론에 기댄다.
- 동역학을 직접 보지 않았다. 가장 가파른 하강은 용량이 SK 모형과 맞는다는 데서 추론했고, 근거 이론도 다른 매개변수 영역에서 유도됐다. 연구진도 스핀이 뒤집히는 순서를 기록해야 직접 증거가 된다고 썼다(본문).
- 기준에 기대는 숫자. 50% 기준과 스핀 하나라는 반경 기준은 n = 16에서 너그러운 편이다. 75%로 올리면 평균 용량이 5(1)개로 반 넘게 준다(보충 V.B).
- 일곱 배의 범위. 일곱 배는 덫을 약하게 한 J1 한 배치의 값이다. 평균으로는 3.3배이고, 이 평균은 의사역행렬 규칙의 상한 16개보다 작다.
- 시뮬레이션의 해상도. 준고전 모형은 용량과 탄성 효과를 재현하지만, 모형이 찾은 기억은 실험의 가장 가까운 기억과 평균 스핀 6개쯤 달랐다(보충 IV.C). 탄성의 메커니즘은 그럴듯한 설명이지 검증된 설명은 아니다.
- 잡음. 자극 빔의 위상 잡음을 없애면 용량이 2~3배 늘 수 있다는 시뮬레이션이 있다(본문). 수치가 하한일 수 있지만 잡음에 그만큼 민감하다는 뜻이기도 하다.
열린 질문
- 스핀 유리에 저절로 생긴 골짜기에 원하는 기억을 실으려면 어떤 부호기가 필요할까. 비선형 부호기는 선형 부호기의 상한인 n개를 넘을 수 있을까.
- 가장 가파른 하강이 끌개를 넓히는 효과는 n이 커지고 상태가 연속이 되어도 남을까. 이산 에너지 모델에서 추론 순서를 고르는 기준이 될 수 있을까.
- 추론하는 동안 결합이 현재 상태 쪽으로 잠시 휘는 성질이 결합 잡음을 막아 준다면, 가중치가 흔들리는 아날로그 하드웨어에서도 같은 방어가 통할까.
이해 확인
1. 이 실험에서 ’기억’으로 센 것은?
- 헤브 학습으로 결합에 새긴 패턴 가운데 다시 찾아지는 것
- 결합에 저절로 생긴 극소 가운데, 스핀 하나를 무작위로 뒤집은 입력에서 50% 넘게 되돌아오는 것
- 무작위 자극 400번에서 한 번이라도 나타난 모든 배치
- 에너지가 가장 낮은 바닥 상태 하나
결합은 학습시키지 않았고, 무작위 자극으로 모은 후보(n = 16에서 평균 51개) 가운데 끌개 반경이 스핀 하나 이상인 것만 셌다(본문). 그래서 홉필드 망과의 비교는 쓸 수 있는 끌개의 수를 견준 것이다.
2. 같은 SK 결합에서 가장 가파른 하강이 무작위 하강보다 기억을 많이 남기는 까닭은?
- 극소의 개수 자체가 늘어나기 때문이다
- 온도를 높여 골짜기 사이의 장벽을 넘게 하기 때문이다
- 오류가 섞인 입력에서 내려갈 길을 하나로 정하는데, 가장 크게 내려가는 뒤집기가 대개 오류를 되돌리는 뒤집기라서 이웃 골짜기로 새는 일이 줄기 때문이다
- 결합 행렬을 헤브 학습 꼴로 바꾸기 때문이다
결합이 같으니 극소도 같다. 가장 가파른 하강은 가장 크게 내려가는 뒤집기만 골라 내려갈 길의 가짓수를 줄이고, 그만큼 끌개 영역이 넓어진다(본문). 위 그림의 예에서 같은 입력이 무작위 하강으로는 44%, 가장 가파른 하강으로는 100% 돌아온다.
3. 집게 레이저 세기를 4분의 1로 낮춰 덫을 무르게 했을 때 일어난 일은?
- 원자 구름이 덫 중심에 더 단단히 모여 결합이 고정됐다
- 구름이 덫 중심에서 더 멀리 밀렸고(평균 1.32 μm에서 1.82 μm로), J1의 기억이 14개에서 25개로 늘었다
- 기억 수는 그대로이고 끌개 반경만 넓어졌다
- 옆 레이저를 끈 뒤에도 구름이 새 위치에 남아 장기 기억이 생겼다
무른 덫에서는 밀리는 거리가 약 38% 커졌고 기억이 25(2)개로 늘었다(그림 3a, 4b). 옆 레이저를 약하게 하면 사라지는 탄성 반응이라 장기 기억은 아니고, 끌개 부피는 오히려 상한에 덜 닿았다(본문).
논문 정보
- 논문: Brendan P. Marsh, David Atri Schuller, Yunpeng Ji, Henry S. Hunt, Surya Ganguli, Sarang Gopalakrishnan, Jonathan Keeling, Benjamin L. Lev, “High-capacity associative memory in a quantum-optical spin glass”, Science 394(6820), 212-215 (2026년 10월 8일 자, 9월 3일 온라인 공개). doi:10.1126/science.aec3917, 프리프린트 arXiv:2509.12202
- 보도자료: Stanford University, “Physics advance could improve how AI remembers and learns”, 2026년 9월 3일. Stanford Report
- 이론 배경: Brendan P. Marsh 외, “Enhancing associative memory recall and storage capacity using confocal cavity QED”, Physical Review X 11, 021048 (2021). doi:10.1103/PhysRevX.11.021048
- 앞선 실험: Brendan P. Marsh 외, “A multimode cavity QED Ising spin glass”, Physical Review Letters 135, 160403 (2025). Ronen M. Kroeze 외, “Directly observing replica symmetry breaking in a vector quantum-optical spin glass”, Science 389, 1122 (2025)
- 자료: 보충 자료의 J1 결합 행렬과 기억 후보 20개의 재현 곡선(그림 S8)