✖

리만 가설

소수는 마치 누군가가 아무렇게나 흩뿌려 놓은 것처럼 보인다. 2와 3 다음에 5, 7, 11, 13이 오고, 한동안 아무것도 없다가 17이 나온다… 다음 소수가 어디에 있는지 알려 주는 공식은 아무도 모른다. 그런데도 크게 보면 소수는 놀랄 만큼 정확한 규칙을 따른다. 리만 가설은 소수가 이 규칙에서 결코 크게 벗어나지 않는다고 주장한다. 리만 가설은 아마도 수학에서 가장 유명한 미해결 문제이고, 이를 해결하는 사람에게는 백만 달러의 상금이 걸려 있다.

그 전에 작은 수수께끼를 하나 내 보자. 100만보다 작은 소수는 몇 개일까? 10만 개? 1만 개? 답은 조금 뒤에 나온다.

소수는 몇 개일까

먼저 손으로 세어 보자. 그림은 1부터 100까지의 수이고, 소수는 빨간색으로 표시했다.

1부터 100까지의 수, 소수는 빨간색

10까지는 2, 3, 5, 7의 네 개가 소수이다. 100까지 세어 보면 25개이다. 계속 세어 나가면 1000까지는 168개라는 것을 알 수 있다. 소수는 계속 늘어나지만 늘어나는 속도는 점점 느려진다. 처음 10개의 수 가운데 소수는 4개로 40%이고, 처음 100개의 수에서는 25%, 처음 1000개의 수에서는 17%밖에 되지 않는다.

x보다 크지 않은 소수의 개수를 π(x)로 나타낸다. 헷갈리지 않도록 주의하자. 여기서 π는 수 3.14가 아니라 함수의 이름일 뿐이며, 소수를 뜻하는 영어 단어 prime에서 따온 것이다. 따라서 π(10) = 4, π(100) = 25, π(1000) = 168이다. π(x)를 그래프로 그리면 계단 모양이 된다. 소수를 만날 때마다 함숫값이 1씩 올라가기 때문이다.

100까지의 계단 π(x)(빨간색), 근삿값 x/\ln x(파란색)와 \mathrm{li}(x)(초록색)

계단은 불규칙해 보인다. 어떤 계단은 넓고 어떤 계단은 좁다. 하지만 멀리서 보면 꽤 매끄러운 곡선 하나를 따라간다. 어떤 곡선일까?

이것을 처음 알아챈 사람은 소수표를 살펴보던 열다섯 살의 카를 프리드리히 가우스였다. 가우스는 수 x 근처에서는 대략 ln x개마다 하나꼴로 소수가 있다는 것을 발견했다. 여기서 ln은 자연로그이다. 예를 들어 확인해 보자. ln 1,000,000은 약 13.8이므로, 100만 근처에서는 대략 14개마다 하나가 소수여야 한다. 그러면 100만과 그보다 1000 큰 수(1,001,000) 사이에 있어야 할 소수의 개수는 대략 다음과 같다.

100013.8≒72

실제로는 75개가 있다. 그렇게 “무질서한” 소수치고는 꽤 잘 맞는 셈이다.

수 x 근처에서 ln x개마다 하나가 소수라면, x까지의 소수의 개수는 대략 다음과 같아야 한다.

π(x)≒xln⁡x.

그래프에서는 파란색 곡선이다. 이 근삿값이 점점 더 정확해진다는 사실을 소수 정리라고 한다. 소수 정리는 1896년에야 자크 아다마르와 샤를 드 라 발레 푸생이 서로 독립적으로 증명했는데, 두 사람 모두 곧 살펴볼 제타 함수를 사용했다.

그런데 그래프를 보면 파란색 곡선은 거의 내내 계단 아래에 있다. 더 나은 근삿값도 있다. 가우스의 관찰은 수 t가 대략 1ln⁡t의 “확률”로 소수라고 읽을 수도 있다. 이 확률을 2부터 x까지의 모든 수에 대해 더하면 소수의 개수를 어림한 값을 얻는다.

1ln⁡2+1ln⁡3+⋯+1ln⁡x.

수학자들은 합 대신 적분, 즉 함수 1ln⁡t의 그래프 아래의 넓이를 사용하고, 그 결과를 로그 적분 li(x)라고 부른다. 로그 적분은 위의 합과 1보다 작은 차이밖에 나지 않으므로, 그냥 그 합이라고 생각해도 된다. 그래프에서는 초록색이고, x = 100일 때 약 30이다. 이것은 파란색의 22보다도 나쁘지만, 큰 x에서는 상황이 뒤바뀐다. 바로 다음 표에서 확인할 수 있다.

근삿값은 얼마나 틀릴까

표에는 실제 소수의 개수 π(x)와 두 근삿값이 그것과 얼마나 차이 나는지가 나와 있다. 마지막 열에는 비교를 위해 x의 제곱근을 실었다.

x π(x) xln⁡x의 오차 li(x)의 오차 x
103 168 23 10 32
104 1229 143 17 100
105 9592 906 38 316
106 78,498 6116 130 1000
107 664,579 44,158 339 3162
108 5,761,455 332,774 754 10,000
109 50,847,534 2,592,592 1701 31,623
1010 455,052,511 20,758,029 3104 100,000
1011 4,118,054,813 169,923,159 11,588 316,228
1012 37,607,912,018 1,416,705,193 38,263 1,000,000

이제 수수께끼의 답이다. 100만보다 작은 소수는 78,498개이다. 예상한 값이 자릿수라도 비슷했는가?

근삿값 xln⁡x는 비율로 보면 점점 나아지지만, 절대적인 수로 보면 점점 더 많이 틀린다. 1조에서는 거의 15억이나 차이가 난다. 로그 적분은 훨씬 잘 맞는다. 1조에서 4만 개가 채 안 되게 틀릴 뿐인데, 이는 약 1만분의 1퍼센트의 오차이다. 그리고 무엇보다 그 오차는 언제나 x보다 작다.

바로 이것이 리만 가설의 핵심이다. 쉽게 말하면 다음과 같다.

근삿값 li(x)의 오차는 많아야 대략 x 정도이다.

더 정확히 말하면, 리만 가설은 2657 이상의 모든 x에 대해 다음 부등식이 성립하는 것과 동치이다.

|π(x)−li(x)|<x⋅ln⁡x8⋅π.

여기서 분수 안의 π는 다시 보통의 3.14를 뜻한다. 정확한 수치가 들어간 이 형태는 1976년에 로웰 쇤펠드가 유도했다. 또 로그는 x에 비해 아주 느리게 증가하므로 약간의 여유분 정도로 생각해도 된다. 그림에서 빨간색은 100만까지의 실제 오차 π(x) − li(x)이고, 파란색은 쇤펠드의 식이 만드는 “깔때기”이다. 리만 가설은 아무리 멀리 가더라도 빨간 선이 파란 깔때기 밖으로 결코 튀어나가지 않는다고 주장한다.

x가 100만까지일 때의 오차 π(x)-\mathrm{li}(x)(빨간색)와 쇤펠드의 식이 주는 경계(파란색)

100만까지는 눈으로 확인할 수 있고, 컴퓨터는 훨씬 더 멀리까지 확인했다. 하지만 수는 무한히 많고, 아주 먼 곳 어딘가에서 일이 틀어지지 않는다는 보장은 없다. 수학에서는 실제로 그런 일이 있었다. 표에 있는 모든 x에서 li(x)는 π(x)보다 크다. 즉 소수의 개수를 언제나 조금 많게 어림한다(위 그림의 빨간 선은 전부 0 아래에 있다). 그런데 1914년에 존 리틀우드는 이 관계가 언젠가 뒤집히며, 그것도 무한히 여러 번 뒤집힌다는 것을 증명했다. 그런 x는 아직 하나도 발견되지 않았고, 1019보다 크다는 것만 알려져 있다.

왜 하필 제곱근일까? 간단한 실험이 도움이 된다. 동전을 던져 보자. n번 던지면 앞면이 대략 n2번 나올 것으로 기대하지만, 정확히 그렇게 되는 경우는 드물다. 절반에서 벗어나는 정도는 커지지만, 던진 횟수에 비례해서 커지는 것이 아니라 대략 n처럼 커질 뿐이다. 1만 번 던지면 절반에서 벗어나는 정도는 보통 수십 정도이고, 100을 넘는 경우는 드물다. 그림은 1만 번씩 던진 세 번의 시행과 파란색 깔때기 ±n이다.

동전 던지기 세 번의 시행에서 앞면이 나온 횟수가 절반에서 벗어난 정도(빨간색, 주황색, 초록색)와 경계 \pm\sqrt{n}(파란색)

두 그림이 비슷한 것은 우연이 아니다. 물론 소수는 무작위가 아니다. 어떤 수든 소수이거나 소수가 아니거나 둘 중 하나이다. 하지만 리만 가설은 본질적으로 소수가 마치 무작위인 것처럼 행동한다고 말한다. 소수는 매끄러운 근삿값 주위에서 흔들리지만, 동전 던지기가 흔들리는 정도보다 더 흔들리지는 않는다. 저 멀리 어딘가에서 소수를 한데 몰아넣거나 싹 쓸어 버리는 고약한 패턴은 없다는 것이다.

제타 함수

그러면 리만은 이 이야기에 어떻게 등장했을까? 베른하르트 리만은 1859년에 주어진 수보다 작은 소수가 몇 개인지에 관한 짧은 논문을 썼다. 그것은 리만이 정수론에 관해 쓴 유일한 논문이었는데, 이 논문에서 수학의 한 분야가 통째로 생겨났다. 이 논문의 주인공은 그보다 앞서 레온하르트 오일러가 연구한 다음 합이다.

ζ(s)=1+12s+13s+…

그리스 문자 ζ는 “제타”라고 읽고, 이 식 전체를 제타 함수라고 한다. 무한히 많은 분수, 즉 모든 자연수의 s제곱의 역수를 더하는 것이다.

s = 1부터 시작해 보자.

ζ(1)=1+12+13+14+15+…

항이 점점 작아지므로 합이 어딘가에서 일정한 값에 가까워질 것처럼 보일 수 있다. 하지만 그렇지 않다. 조화급수라고 부르는 이 급수는 한없이 커진다. 다만 엄청나게 느리게 커진다. 합이 10을 넘으려면 12,367개의 항을 더해야 한다. 그림에서 빨간색은 처음 n개 항의 합이다.

s=1일 때(빨간색)와 s=2일 때(파란색) 처음 n개 항의 합, 점선은 값 π^2/6

s = 2이면 제곱수의 역수를 더한다.

ζ(2)=1+14+19+116+125+…

이번에는 합이 일정한 값에 수렴한다(그래프의 파란색). 그 값이 얼마인지를 두고 수학자들은 80년 넘게 머리를 싸맸고, 이 문제를 바젤 문제라고 불렀다. 1734년에 오일러가 이 문제를 풀었는데, 그 결과는 아무도 예상하지 못한 것이었다.

ζ(2)=π26≒1.6449.

원에서 나오는 π가 어떻게 이 결과에 들어왔는지는 그것만으로 글 한 편이 될 만한 이야기이다. 여기서 더 중요한 것은 제타 함수를 소수와 연결하는 오일러의 또 다른 발견이다.

오일러 곱

2의 거듭제곱만 골라 그 역수를 더해 보자.

1+12s+14s+18s+…

이것은 공비가 12s인 무한 등비급수이고, 그 합은 다음과 같다.

11−12s.

3의 거듭제곱으로도 같은 일을 하고, 두 합을 곱한다. 괄호를 풀어 모든 항끼리 곱하면 다음과 같다.

(1+12s+14s+…)⋅⋅(1+13s+19s+…)==1+12s+13s+14s+16s++18s+19s+112s+…

예를 들어 112s은 12 = 4 · 3이므로 14s⋅13s로 생겨났다. 이렇게 2와 3만으로 만들 수 있는 모든 수의 역수가 각각 정확히 한 번씩 나온다. 5, 7, 10은 아직 없다.

5의 거듭제곱으로 된 괄호를 곱하면 2, 3, 5로 만들어지는 수가 더해진다. 그리고 모든 소수에 대한 괄호를 곱하면 모든 자연수를 얻는다. 모든 자연수는 소수의 곱으로 단 한 가지 방법으로 분해되기 때문이다. 이것이 산술의 기본 정리이다. 따라서 모든 1ns이 정확히 한 번씩 나타나고, 그 결과는 정확히 제타 함수가 된다.

ζ(s)=11−12s⋅11−13s⋅11−15s⋯

좌변은 모든 자연수에 대한 합이고, 우변은 모든 소수에 대한 곱이다. 이 식은 제타 함수와 소수를 잇는 다리이고, 이후의 모든 이야기는 이 식을 바탕으로 한다.

게다가 이 식에서 소수가 무한히 많다는 사실이 곧바로 나온다. 소수가 유한개밖에 없다면, s = 1일 때 우변은 유한개의 보통 수의 곱, 즉 어떤 구체적인 수가 된다. 그런데 좌변은 한없이 커지는 조화급수이다. 이 둘은 서로 맞지 않는다. (다른, 더 오래된 증명은 귀류법에 관한 글에 있다.)

영점과 임계선

오일러는 s에 보통의 실수만 대입했다. 리만은 대담한 한 걸음을 내디뎠다. s에 복소수, 즉 a + bi 꼴의 수를 대입한 것이다. 여기서 i는 i2 = −1을 만족하는 허수단위이다. 복소수는 평면 위의 점으로 생각할 수 있다. 실수부분 a는 점이 얼마나 오른쪽에 있는지를, 허수부분 b는 얼마나 위에 있는지를 나타낸다. 이 평면을 복소평면이라고 한다.

그런데 한 가지 걸림돌이 있다. 합 1+12s+13s+…에 의미가 있는 것은 s의 실수부분이 1보다 클 때뿐이다. 그렇지 않으면 합이 일정한 값에 가까워지지 않는다. 예를 들어 s = 1이면 조화급수처럼 한없이 커진다. 하지만 리만은 제타 함수를 평면의 나머지 부분으로도 자연스럽게 “늘일” 수 있다는 것을 보였다. 다음 합과 비슷하다고 생각하면 된다.

1+x+x2+x3+⋯=11−x.

좌변은 x가 −1과 1 사이에 있을 때만 의미가 있지만, 우변에는 그런 제한이 없다. 예를 들어 x = 2를 대입할 수 있고, 그러면 −1이 나온다. 이렇게 우변이 좌변을 “늘여” 준다. 제타 함수의 경우는 더 복잡하지만 생각은 같다. 수학자들은 이것을 해석적 연속이라고 부른다.

여기서 관심을 두는 것은 제타 함수의 값이 0이 되는 곳이다. 그런 곳을 영점이라고 한다. 몇몇은 쉽게 찾을 수 있다. 제타 함수는 −2, −4, −6, −8, 그리고 그 밖의 모든 음의 짝수에서 0이 된다. 이것들이 이른바 자명한 영점이고, 그림에서 초록색이다. 나머지는 자명하지 않은 영점이라고 하는데, 이들은 모두 실수부분이 0과 1 사이인 좁은 띠 안에 있다는 것이 알려져 있다. 이 띠를 임계대라고 하며, 그림에서 파란색이다.

복소평면: 임계대(파란색), 실수부분이 1/2인 임계선(점선), 자명하지 않은 영점의 처음 10쌍(주황색)과 자명한 영점(초록색)

띠의 정확히 한가운데에는 모든 수의 실수부분이 12인 직선이 지나간다. 이 직선을 임계선이라고 한다. 그리고 리만 가설은 다음과 같다.

제타 함수의 자명하지 않은 영점은 모두 실수부분이 12이다.

즉, 주황색 점은 모두 점선 위에 있다. 영점은 실수축에 대하여 대칭으로 짝을 지어 나타난다. 12+14.1347i가 영점이면 12−14.1347i도 영점이다. 그래서 위쪽 절반만 살펴보면 충분하다. 처음 몇 개의 영점은 다음과 같다.

12+14.1347i,12+21.0220i,…

임계선 위에서는 함숫값이 실제로 0에 닿는 모습을 볼 수 있다. 그래프에서 빨간색은 t가 0부터 50까지일 때 ζ(12+ti)의 크기(절댓값)이다. 곡선이 가로축에 닿을 때마다 영점이 하나 있다.

t가 0부터 50까지일 때 \zeta(1/2+t\,i)의 절댓값(빨간색), 영점은 주황색

리만은 처음 몇 개의 영점을 손으로 계산했고, 논문에 모든 영점이 이 직선 위에 있을 것이 “매우 그럴듯하다”고 썼다. 하지만 증명은 미루어 두었다. 자신의 목적에는 필요하지 않았기 때문이다. 그 뒤로 사람들은 줄곧 그 증명을 기다리고 있다. 1914년에 고드프리 하디는 임계선 위에 무한히 많은 영점이 있다는 것을 증명했다. 하지만 영점이 모두 그 위에 있다는 것은 아무도 증명하지 못했다. 대신 컴퓨터가 엄청나게 많은 예를 확인했다. 2004년에 그자비에 구르동은 처음 10조 개(1013)의 영점이 직선 위에 있다는 것을 확인했다. 벗어난 것은 하나도 없었다.

소수의 음악

영점은 소수를 세는 일과 어떤 관계가 있을까? 바로 여기에 리만 논문의 가장 아름다운 부분이 있다. 리만은 소수의 계단을 매끄러운 곡선과 파동들로 정확하게 조립하는 공식을 찾았는데, 각 파동은 영점 하나에 대응한다.

이 공식이 가장 깔끔한 모양이 되는 것은 계단을 조금 고쳤을 때이다. 소수 p마다 1씩 올라가는 대신 ln p만큼 올라가게 한다. 그리고 소수의 거듭제곱에서도 작은 계단을 더해서, 4(22)에서는 ln 2만큼, 9(32)에서는 ln 3만큼 올라가는 식으로 한다. 이 계단을 체비쇼프 함수라고 하고 ψ(x)로 나타내며 “프사이”라고 읽는다. 왜 하필 이렇게 할까? 가우스에 따르면 수 x 근처에서는 ln x개마다 하나가 소수이고, 소수마다 대략 ln x만큼 올라가면 계단은 평균적으로 수 하나당 1씩 올라간다. 그러면 매끄러운 근삿값은 아주 평범한 직선 y = x가 된다. 리만은 다른 계단에 대해 공식을 썼고, 이 형태로는 1895년에 한스 폰 망골트가 증명했다.

ψ(x)=x−∑ρxρρ−ln⁡(2π)−12⋅ln⁡(1−1x2)

무시무시해 보이지만, 사실 이 절의 첫머리에서 말한 바로 그 내용이다. 맨 앞에는 직선 x가 있고, 맨 뒤에는 거의 아무 역할도 하지 않는 작은 보정 항 두 개가 있다. 가운데에는 자명하지 않은 모든 영점에 대한 합이 있다. 문자 ρ(“로”라고 읽는다)는 영점을 나타내며, 예를 들어 ρ=12+14.1347i이다.

영점의 각 쌍 12±γi는 합에 파동 하나를 보탠다. 다음 그림에서 빨간색은 γ = 14.1347인 첫 번째 쌍의 파동이다.

첫 번째 영점 쌍의 파동(빨간색)과 \sqrt{x}처럼 커지는 그 포락선(파란 점선)

파동은 진동하고, 그 높이는 점점 커진다. 왜 그럴까? 거듭제곱 xρ를 나누어 보자.

x12+γi=x12⋅xγi=x⋅xγi.

두 번째 인수 xγ i은 절댓값이 1인 복소수이고, x가 커지면 그저 빙글빙글 돌기만 한다. 이 회전이 진동이 된다. 하지만 파동의 크기를 정하는 것은 첫 번째 인수 x이다. 그래서 파동의 높이는 정확히 x처럼 커진다. 정확히는 2x|ρ|이다. 2가 붙는 것은 모든 영점이 쌍을 이루는 거울상 짝을 가지고 있어서 둘이 함께 파동을 만들기 때문이고, 고정된 수 |ρ|로 나눈다는 것은 멀리 있는 영점의 파동일수록 낮다는 뜻이다. 이것이 파란 점선의 포락선이다.

이제 모두 합쳐 보자. 애니메이션에서 회색은 실제 함수 ψ(x)이고 빨간색은 리만의 공식이다. 빨간색은 처음에는 파동을 하나도 더하지 않고, 다음에는 처음 N = 5쌍의 영점의 파동을, 그다음에는 25쌍을, 마지막으로 200쌍을 더한 것이다.

계단 \psi(x)(회색)와 N쌍의 영점을 쓴 리만의 공식(빨간색) 애니메이션

파동이 없으면 직선만 얻는다. 파동을 하나 더할 때마다 진동이 조금씩 늘어나고, 파동들이 더해지면서 소수가 있는 곳에서는 점차 계단의 턱이 생기고 그 사이에서는 진동이 상쇄된다. 200쌍이면 빨간 선은 회색 계단과 거의 구별할 수 없다. 애니메이션이 재생되지 않는다면, 네 단계를 나란히 놓은 그림은 다음과 같다.

0쌍, 5쌍, 25쌍, 200쌍의 영점을 쓴 리만의 공식(빨간색)과 계단 \psi(x)(회색)

여기까지 오면 영점의 위치가 왜 그렇게 중요한지 알 수 있다. 매끄러운 직선에서 계단이 벗어나는 정도는 모든 파동의 합이다. 모든 영점이 임계선 위에 있으면 각 파동은 x12=x처럼 커지고, 그 합도 그리 멀리 달아나지 못한다. 쇤펠드의 깔때기에 제곱근이 들어가는 것은 이 때문이다.

그런데 만약 어떤 영점이 직선 밖에 있어서, 예를 들어 실수부분이 0.8이라면, 그 파동은 x0.8처럼 커진다. 이것은 큰 x에서 x보다 훨씬 크다. x = 1020이면 x=1010이지만 x0.8 = 1016이다. 이 파동 하나가 결국 다른 모든 파동을 압도하게 되고, 소수는 매끄러운 근삿값에서 동전 던지기로 설명되는 것보다 훨씬 크게 벗어나게 된다. 따라서 리만 가설은 이렇게 말하는 셈이다. 이 파동의 오케스트라에서 다른 악기를 모두 묻어 버리는 악기는 없다. 그래서 이 주제를 흔히 소수의 음악이라고 부른다.

첫 번째 절의 소수 정리도 영점에 바탕을 두고 있다. 1896년에 아다마르와 드 라 발레 푸생은 임계대의 가장자리에는 영점이 하나도 없다는 것, 즉 실수부분이 언제나 1보다 작다는 것을 증명했을 “뿐”이다. 이것만으로도 파동이 x 자체보다 느리게 커져서, 근삿값이 비율로 보아 점점 더 잘 맞게 되기에 충분하다. 리만 가설은 훨씬 더 많은 것을 요구한다. 실수부분이 정확히 12라는 것이다.

왜 중요할까

리만 가설은 오래되고 유명한 문제이다. 1900년에 다비트 힐베르트는 새로운 세기의 수학이 다루어야 한다고 생각한 23가지 문제를 꼽았는데, 리만 가설은 그 가운데 여덟 번째였다. 2000년에는 클레이 수학연구소가 리만 가설을 7개의 밀레니엄 문제 가운데 하나로 선정했다. 각 문제를 해결하면 P 대 NP 문제와 마찬가지로 백만 달러의 상금을 받는다. 하지만 상금이 바로 지급되지는 않는다. 해답이 권위 있는 학술지에 실리고, 그 뒤 2년 동안 검증을 견뎌 내어 전문가들에게 인정받아야 한다.

수학자들이 이 가설에 그토록 관심을 두는 이유는 무엇일까? 무엇보다도 수백 개의 다른 정리가 이 가설을 바탕으로 하기 때문이다. 전문 논문에는 “리만 가설이 참이라면…”이라는 문장이 자주 나온다. 예를 들면 다음과 같다.

  • 수 x 근처에서 이웃한 두 소수 사이의 간격은 대략 x⋅ln⁡x보다 크지 않다.
  • 간단하고 빠른 밀러 소수 판별법으로 어떤 수가 소수인지를 확실하게 판정할 수 있다. 다만 이것은 제타 함수와 비슷한 관련 함수들에 대한 일반화된 리만 가설에 기대고 있다.
  • 소수가 일의 자리가 1, 3, 7, 9인 수에 얼마나 고르게 나뉘는지에 대한 정확한 어림. 여기에도 일반화된 가설이 필요하다.

누군가 리만 가설을 증명한다면(마지막 두 예에서는 일반화된 가설까지) 이 명제들이 한꺼번에 모두 성립하게 된다. 반대로 리만 가설이 거짓으로 밝혀진다면 그중 일부는 무너질 것이다.

리만 가설이 증명되면 암호가 깨지고 인터넷 뱅킹도 끝장난다는 말이 가끔 들린다. 그것은 사실이 아니다. 널리 쓰이는 RSA 암호는 큰 수를 두 소수의 곱으로 빠르게 분해하는 방법이 알려져 있지 않다는 데 바탕을 두고 있다. 리만 가설은 수의 분해에 대해서는 아무것도 말하지 않는다. 소수가 다른 수들 사이에 어떻게 분포하는지를 말할 뿐이다. 게다가 대부분의 수학자는 이 가설이 참이라고 믿고, 이미 오래전부터 이를 전제로 삼아 왔다. 증명은 이미 가정하고 있던 것을 확인해 줄 뿐이다. 암호에 해가 될 수 있는 것은 증명 과정에서 나올지도 모르는 어떤 새로운 아이디어 정도인데, 그런 아이디어는 아무도 보지 못하고 있다.

지금 왜 화제일까

Anthropic의 수학자 레벤트 알푀게(Levent Alpöge)는 2026년 11월 20일 자신의 웹사이트에 네 쪽짜리 메모를 공개했다. 알푀게는 이 메모에서 AI 모델 Claude와 함께 리만 가설의 증명을 찾았고, 일반화된 리만 가설도 증명했다고 밝혔다.

지금까지 공개된 것은 Lean이라는 언어로 쓴 증명뿐이다. Lean은 수학적 증명을 컴퓨터가 한 단계씩 기계적으로 확인할 수 있도록 적을 수 있는 프로그래밍 언어이다. 수학자가 읽을 수 있는 일반적인 글로 된 증명은 아직 없다. 알푀게 자신도 증명에 담긴 수학을 아직 다 이해하지는 못했다고 인정하며, 나중에 글로 정리하겠다고 했다.

독립적인 검증이나 심사는 아직 이루어지지 않았다. Lean을 이용한 컴퓨터 검사는 강력하지만 그것만으로는 충분하지 않다. 전문가들은 무엇보다 문제의 진술 자체가 Lean에 올바르게 적혀 있는지, 즉 컴퓨터가 확인한 것이 정말 리만 가설이고 비슷해 보이는 다른 명제가 아닌지를 점검해야 한다. 리만 가설의 대표적인 전문가 가운데 한 사람인 브라이언 콘리는 이 발표를 “인류 역사의 기념비적인 순간”이라고 불렀다. 하지만 콘리는 아직 원고를 보지 못했다. 이 발표는 Anthropic이 주식 시장에 상장한 다음 날에 나왔다.

리만 가설을 증명하려는 시도는 유명한 수학자들의 시도를 포함해 이미 많았고, 지금까지 모두 실패했다. 이번 시도가 다른 점은 컴퓨터가 확인할 수 있는 Lean 증명으로 나왔다는 것이다. 이 증명이 살아남을지는 전문가들의 작업이 끝나야 알 수 있고, 그것은 오래 걸릴 수 있다. 어쨌든 클레이 연구소의 백만 달러는 논문이 출판된 뒤 적어도 2년은 기다려야 한다. 이 단락은 2026년 11월 21일에 쓴 것이다.

함께 보기