이인열 기자

일러스트 이철원

17세기 수학자 페르마는 책 모퉁이에 “경이로운 증명법을 발견했지만 여백이 좁아 적지 않는다”는 말을 남겼다. 우리가 잘 아는 피타고라스 정리를 살짝 비틀어 던진 ‘페르마의 마지막 정리’다. 이 짧은 정리 하나를 풀기 위해 인류 최고 지성들은 350년 넘게 절망을 거듭했고, 1994년 영국의 와일스 교수가 7년간의 연구 끝에 증명했다. 수학 난제를 푼다는 것은 단순한 계산이 아니라 인간 고유의 깊은 사고력을 짜내는 일이다.

▶최근 이 성역이 급격히 흔들리고 있다. 미 코네티컷대 이규환 교수 연구팀은 40년 난제 ‘M23’을 AI와 협업해 단 두 달 만에 해결했다. 90년 동안 미해결 과제이던 ‘나비에-스토크스 문제’마저 차세대 AI가 88시간 만에 해법을 내놓았다. 데이터를 확률적으로 조합해 그럴싸하게 흉내만 낸다는 ‘확률적 앵무새’란 비판은 쏙 들어갔다. 수학계에선 “AI와 협업했는지 구별하기 힘들어 2030년이면 수학의 노벨상인 ‘필즈상’이 사라질지 모른다”고 우려할 정도다.

▶수학 난제만 그런 게 아니다. 개편 수능 예시 평가에서 전 영역 만점을 받은 ‘GPT-6 아스트라’는 사람이 평균 2시간 걸리는 48단계 ‘나는 로봇이 아닙니다’ 퍼즐 테스트마저 단 4분 만에 뚫어냈다. 사람인지 기계인지 구별하려고 만든 보안망마저 AI가 인간보다 30배 빠르게 넘어선 것이다. 텍스트로 답만 내놓던 수준을 넘어 스스로 웹을 검색하고 코드를 수정하며 직접 보고 판단하는 AI로 진화한 장면이다.

▶그렇다면 인간의 지적 입지는 소멸할까. 수학자들은 AI의 전지전능함에 선을 그으며 주도권은 여전히 인간에게 있다고 말한다. AI가 아무리 빠르게 계산 결과를 내놓더라도 ‘어떤 난제에 도전할지’ 방향을 정하고 그 결과를 검증해 새로운 이론으로 완성하는 지휘자는 결국 인간이기 때문이다. 백진언 고등과학원 박사도 ‘어떤 문제가 가치 있는가’를 판단하는 맥락과 기획은 인간의 영역이라 강조한다. 이규환 교수 역시 AI라는 ‘아이언맨 슈트’를 입고 기계를 통제하는 인간의 ‘수학적 사고력’이 AI 시대의 진짜 주역이라고 본다.

▶진짜 두려운 것은 AI의 완벽함이 아니라 기술이 인간을 쫓아오는 속도다. “너무 빨리 변해서 두렵다”는 어느 스타트업 창업자의 탄식이 귀에 꽂히는 이유다. 스스로 ‘로봇이 아님’을 증명하고 천재들의 난제까지 가뿐히 풀어낸 AI의 능력 시험은 이미 만점 수준이다. 인간이 AI라는 슈트를 입고 지혜롭게 주도권을 지켜낼 수 있을 것인가.

출처: 조선일보(2026.09.09.)