SBS Biz

챗GPT 개발사 오픈AI가 자사 인공지능(AI)기술로 80년간 미해결 상태였던 수학 난제를 풀어냈다고 20일(현지시간) 발표했습니다.

이 회사는 이번 성과가 수학과 AI 커뮤니티에 중요한 이정표라며 "수학의 특정 분야에 중심적 위치를 차지하는 주요 미해결 문제가 AI에 의해 자율적으로 해결된 첫 사례"라고 설명했습니다.

헝가리 출신의 저명한 수학자 폴 에르되시(1913-1996)는 1946년에 '평면 단위 거리 문제'(planar unit distance problem)로 흔히 불리는 미해결 문제를 수학계에 제시했는데, 이는 평면 위에 n개의 점을 찍을 때, 단위거리만큼 떨어진 점들의 쌍을 최대 몇 개(ν(n)) 만들 수 있느냐를 묻는 것으로, '이산 기하학'(discrete geometry) 분야에서 중요한 미해결 문제로 꼽혀왔습니다.

예를 들어 n=9인 경우, 점들을 일렬로만 늘어놓으면 1㎝ 간격인 점들의 쌍이 8쌍만 나오지만, 다른 방법을 쓰면 최대 12쌍을 만들 수 있는데, 즉 ν(9) = 12로 9개의 점을 정사각형 단위의 3×3 격자(grid) 형태로 배치하는 경우에 해당합니다.

에르되시는 양의 정수 n이 충분히 커지면 ν(n)이 n의 1차함수보다 아주 약간만 더 빠르게 증가할 것이며, 각 점들을 정사각형 단위의 격자 형태로 배치하는 것이 최적의 해답일 것이라고 추측했습니다.

수식으로 쓰면 "n이 충분히 커지면 ν(n) ≤ n^(1 + O(1/log log n))이 성립한다"는 것이 에르되시가 이 문제에 대해 내놓은 추측이었는데,  후배 수학자들은 이 추측을 증명하든지 반증하든지 둘 중 하나를 해내려고 노력해왔으나 80년간 성공하지 못하고 있었습니다.

이 문제는 에르되시가 생전에 제시한 것으로 알려진 1천217건의 문제의 해결 상황을 데이터베이스로 추적하는 '에르되시 문제' 홈페이지(www.erdosproblems.com)에서도 10대 중요 난제 중 하나로 꼽혔습니다.

그러나 이달 7일께 오픈AI 소속 수학자들인 메탑 사우니(Mehtaab Sawhney)와 마크 셀키(Mark Sellke)가 일반적인 논리 추론을 위해 훈련된 대규모 언어 모델(LLM)에 이 추측이 맞는지 질문을 던지면서 사태가 급변했습니다.

AI는 "어떤 상수 δ > 0과 무수히 많은 n에 대해 ν(n) ≥ n^(1+δ)이 성립한다"는 내용의 정리를 증명해, 이는 에르되시가 냈던 추측이 틀렸다는 결론을 내렸습니다.

오픈AI는 소속 수학자들과 관련 분야를 연구한 외부 전문가들에게 검증을 맡겨 AI가 내놓은 풀이가 올바르다는 사실을 확인했습니다.

오픈AI는 인간 수학자들에게 AI가 내놓은 풀이를 정리하고 설명하는 작업을 맡겨, 참고문헌 목록을 포함해 총 18쪽의 논문으로 깔끔하게 정리한 후 홈페이지에 공개했고, 논문에는 AI에 입력한 20여줄 분량의 프롬프트와 AI가 출력한 원래 형태의 풀이도 실려 있습니다.

이번 성과는 수학 문제 해결 전용 모델이 아닌 범용 추론 모델로 이뤄졌다고 오픈AI는 설명했습니다.

오픈AI는 소셜미디어 X에서 "거의 80년 동안 수학자들은 가능한 최고의 해답이 대략 정사각형 격자 모양일 것이라고 믿어왔다"며 "오픈AI의 모델은 이제 그 믿음을 반증하며, 더 나은 성능을 내는 완전히 새로운 형태의 구성군을 발견했다"고 설명했습니다.

회사 측 설명에 따르면 AI는 기존의 2차원 평면 격자가 아니라 고차원의 복잡한 대칭 격자를 구성한 뒤, 이를 2차원 평면으로 투사해 납작한 '수치적 그림자'를 만들어내는 방식으로 한계치를 돌파한 것으로 파악됐습니다.

학계 전문가들은 이번 성과가 수학 최고 권위 학술지에 게재될 만한 수준이라며 찬사를 보내고 있습니다.

필즈 메달 수상자인 티머시 가워스 케임브리지대 교수는 "AI가 그냥 미해결 수학 문제를 푼 것이 아니라, 매우 잘 알려진 미해결 수학 문제를 해결한 매우 명확한 첫 사례"라고 평가했습니다.