AI가 발견하기 시작한 시대, 연구자는 무엇을 하는가

연구라는 일을 오랫동안 하나의 과정으로 생각해왔다. 이미 알려진 지식의 끝을 찾아가고, 그곳에서 아직 설명되지 않은 문제를 발견한다. 질문을 만들고, 가설을 세우고, 실험하거나 계산한다. 결과가 충분히 견고하다면 새로운 지식으로 받아들이고, 그 지점에서 다시 다음 질문을 찾는다.

박사라는 훈련도 대체로 이 과정에 맞춰져 있었다. 특정 분야의 지식을 누구보다 깊이 이해하고, 그 지식의 경계에서 남들이 아직 보지 못한 문제를 발견하는 사람이 연구자였다. AI는 처음에는 이 과정의 속도를 높이는 도구처럼 보였다. 논문을 찾고, 데이터를 분석하고, 코드를 쓰고, 초안을 만드는 일을 도와주는 정도였다. 그런데 최근 몇 년간 나온 사례를 따라가다 보면 조금 다른 질문이 생긴다.

AI가 연구를 돕는 것이 아니라, 아직 존재하지 않는 지식을 먼저 발견하기 시작한다면 어떻게 될까.

이 질문에서부터 연구자의 역할을 다시 생각해보고 싶다.

1. 연구에서 가장 희소했던 것은 사실 ‘아이디어’였다

과거 연구자가 가진 가장 큰 제약 중 하나는 탐색할 수 있는 범위였다. 세상에는 가능한 가설이 너무 많다. 모든 변수를 모든 방식으로 연결해볼 수도 없고, 가능한 분자를 전부 합성해볼 수도 없으며, 모든 수학적 명제를 무작정 증명해볼 수도 없다.

그래서 연구에는 직관이 필요했다. 좋은 연구자는 기존 문헌과 경험을 이용해 수없이 많은 가능성 가운데 몇 곳을 골라냈다. 대부분의 가능성을 버리고, 그중 연구할 가치가 있어 보이는 질문에 몇 년을 투자했다.

이런 의미에서 전통적인 연구는 거대한 search space를 아주 제한된 인간의 인지 능력으로 탐색하는 일이었다.

AI가 바꾸기 시작한 것도 이 부분이다. AI는 하나의 좋은 가설을 생각하는 데 그치지 않는다. 수천 개의 후보를 만들고, 계산하고, 일부를 버리고, 다시 변형할 수 있다. 시뮬레이션이나 자동화된 실험 환경까지 연결되면 이 과정은 훨씬 빨라진다. 지금까지 연구를 제한했던 것이 가설의 부족이었다면, 앞으로는 정반대의 문제가 나타날 수도 있다.

검토할 만한 가설이 너무 많아지는 것.

나는 이것을 글에서 일종의 가설 공급 충격(Hypothesis Supply Shock)으로 다뤄보고 싶다.

2. 수학에서는 이미 ‘발견하는 기계’와 ‘검증하는 기계’가 만나고 있다

수학은 이 변화를 가장 깨끗하게 관찰할 수 있는 분야다. Google DeepMind의 FunSearch는 사람이 직접 프로그램을 설계하는 대신, LLM이 프로그램을 생성하고 평가 결과를 받아 다시 개선하는 과정을 반복했다. 그 과정에서 오랫동안 연구되어 온 cap set problem에서 기존보다 나은 construction을 발견했다.

AlphaProof가 보여준 모습은 조금 더 직접적이다. AI가 수학 문제의 proof를 탐색하고, 형식적으로 표현된 proof를 검증 가능한 형태로 만든다. 이때 흥미로운 존재가 Lean 같은 theorem prover다.

Lean에서는 증명이 자연어의 설득력에 의존하지 않는다. 형식화된 proof가 논리 규칙을 만족하는지 기계가 검사한다. AI가 수많은 proof candidate를 만들더라도 Lean의 kernel을 통과하지 못하면 증명으로 인정되지 않는다. 그래서 수학에서는 이미 다음과 같은 연구 형태를 상상할 수 있다.

AI가 명제를 탐색한다
→ proof candidate를 만든다
→ Lean이 검증한다
→ 실패한 proof를 다시 AI가 수정한다
→ formal verification을 통과한다

여기에는 인간이 proof를 한 줄씩 직접 확인하는 과정조차 반드시 필요하지 않다. 물론 formal proof가 존재한다는 사실과 좋은 수학을 했다는 평가는 같은 것이 아니다. 어떤 정리가 중요한지, 기존 수학을 어떻게 바꾸는지, 새로운 개념을 만들어내는지까지 theorem prover가 결정해주는 것은 아니다.

오히려 그 차이가 앞으로 더 중요해질 수 있다.

3. 자연과학에서는 사람이 보지 못했던 공간을 AI가 먼저 뒤지기 시작했다

화학이나 생물학, 재료과학에서는 가능한 조합의 수가 훨씬 크다. AlphaFold가 중요한 이유도 단순히 연구 시간을 절약했기 때문만은 아니다. 인간이 하나씩 실험적으로 풀기에는 너무 넓었던 단백질 구조 공간을 계산의 대상으로 바꿨다. 재료과학에서는 이런 모습이 더 극단적으로 나타난다. DeepMind의 GNoME은 수백만 개의 결정 구조를 계산하고 그중 수십만 개를 안정적인 새로운 물질 후보로 제시했다.

문제는 여기서 끝나지 않는다. Berkeley의 A-Lab처럼 로봇 실험실이 연결되기 시작하면 AI가 제시한 후보를 실제로 합성하고 측정할 수 있다.

가능한 물질을 생성한다
→ 안정성을 계산한다
→ 가치가 높은 후보를 고른다
→ 로봇이 합성한다
→ 결과를 측정한다
→ 실패와 성공을 다시 다음 탐색에 사용한다

과거에는 이 loop의 거의 모든 단계에 사람이 있었다. 이제는 일부 분야에서 발견과 초기 검증을 묶은 loop 자체가 자동화될 가능성이 보이기 시작한다. 그렇다면 연구자의 일은 자연스럽게 달라진다.

백만 개의 후보 가운데 101번째 후보를 직접 만드는 것보다, 무엇을 찾도록 시스템을 설계할 것인가가 더 중요해진다. 배터리의 에너지 밀도를 높이는 물질을 찾을 것인지, 가격과 안정성을 동시에 만족하는 물질을 찾을 것인지, 희귀광물을 사용하지 않는 후보만 탐색할 것인지에 따라 AI가 발견하는 세계도 달라진다.

발견의 규모가 커질수록 목적함수의 설계는 연구의 바깥에 있는 일이 아니라 연구의 한복판으로 들어온다.

4. AI가 ‘과학자’의 일부를 흉내 내기 시작했다는 점은 더 직접적인 변화다

최근에는 특정 문제를 푸는 AI뿐 아니라 scientific process 자체를 자동화하려는 시도도 등장하고 있다. Google의 AI Co-Scientist는 여러 agent가 가설을 만들고 서로 비판하며 후보를 ranking하고 개선한다. 생물학적 가설 가운데 일부는 실제 실험으로 이어졌다. Robin 같은 시스템은 문헌에서 출발해 가설을 만들고, 실험 결과를 읽은 뒤 다시 다음 가설을 갱신한다.

AI 연구에서는 아이디어를 만들고 코드를 작성하고 실험한 뒤 논문 형태로 정리하고 review까지 수행하는 AI Scientist 계열도 나타났다. 아직 사람 없는 과학이라고 부르기에는 무리가 있다. 실험 환경, 데이터, 평가 기준, 연구 문제 자체가 상당 부분 인간에 의해 준비된다.

그럼에도 중요한 변화가 하나 있다. 예전에는 AI가 scientific method 안에 있는 하나의 도구였다면, 이제는 scientific method의 여러 단계를 하나의 loop 안에서 수행하려는 시스템이 만들어지고 있다.

이 변화가 계속된다면 ‘AI가 연구자를 얼마나 잘 보조하는가’라는 질문만으로는 상황을 설명하기 어렵다.

5. 인문학에서도 발견의 의미가 달라지고 있다

AI에 의한 discovery를 생각하면 수학이나 신약 개발을 먼저 떠올리기 쉽다. 그러나 인문학에서도 비슷한 변화가 일어난다. 형태가 다를 뿐이다. 베수비오 화산 폭발로 탄화된 Herculaneum 파피루스는 대표적인 사례다. 두루마리를 물리적으로 펼치면 파괴되기 때문에 2,000년 가까이 내용을 읽을 수 없었다. CT scanning과 machine learning을 결합하면서 내부의 글자가 조금씩 복원되기 시작했다.

여기에서 AI는 역사학자보다 더 좋은 역사 해석을 한 것이 아니다. 그동안 역사학자가 아예 읽을 수 없었던 사료를 읽을 수 있는 evidence로 바꾸었다. 현미경이 이전에는 보이지 않던 미생물을 지식의 대상으로 만들었듯이, AI도 어떤 분야에서는 새로운 epistemic instrument, 즉 지식의 관찰 도구가 될 수 있다. DeepMind의 Ithaca와 Aeneas도 비슷하다. 손상된 고대 비문의 텍스트를 복원하고, 시기와 지역을 추정하며, 방대한 고대 기록 속에서 인간이 일일이 발견하기 어려운 textual parallel을 찾아낸다.

그 다음 질문은 여전히 역사학자의 것이다. 왜 이 문장이 중요한가. 기존에 우리가 알던 시대상과 어떤 관계를 갖는가. 이 사료 하나가 기존의 역사적 설명을 바꿀 정도의 증거인가. AI가 evidence discovery의 범위를 넓힐수록 해석의 문제는 오히려 더 커질 수도 있다.

6. 사회과학에서는 훨씬 불편한 질문이 생긴다

사회과학에서는 상황이 조금 다르다. 사회과학자가 만드는 가설은 물질의 안정성이나 theorem의 참·거짓처럼 쉽게 닫히지 않는다. construct가 있고, 측정의 문제가 있고, context가 있으며, 인간이 연구 결과를 알게 되면서 행동 자체를 바꾸기도 한다.

그런데 이 분야에서도 AI는 빠르게 연구 과정 안으로 들어오고 있다. 대규모 심리학 문헌에서 causal relationship을 추출해 새로운 가설을 만드는 연구가 등장했고, 실제 사회과학 실험에서 어떤 treatment effect가 나타날지를 LLM에게 미리 예측시키는 연구도 이루어졌다. Centaur 같은 모델은 수십 개 실험이 아니라 수백 개 실험과 수천만 건의 인간 선택을 한 모델 안에 학습시켜, 처음 보는 실험에서도 인간의 선택을 어느 정도 예측하려고 한다. 이것을 조금 밀어붙여보면 꽤 낯선 연구 방법이 만들어진다.

기존 방식이

이론
→ 몇 개의 가설
→ 연구 설계
→ 실제 사람에게 조사 또는 실험
→ 통계적 검증

이었다면 앞으로 일부 연구에서는

연구 질문
→ AI가 매우 많은 causal hypothesis를 생성
→ 여러 population과 condition을 simulation
→ boundary condition 탐색
→ 정보가치가 높은 가설을 좁힘
→ 실제 사람을 대상으로 검증

하는 형태가 가능할 수 있다.

이 단계에서 AI simulation을 empirical evidence로 받아들이자는 이야기는 아니다.

오히려 정반대의 문제가 생긴다. AI가 너무 많은 plausible result를 만들어낼 수 있기 때문에, 무엇이 실제 세계에 대한 evidence인지를 이전보다 엄격하게 구분해야 한다. 사회과학에서 인간 연구자의 역할을 생각할 때 이 문제가 중요해 보인다.

7. 처음에는 인간에게 ‘검증’이 남는 것처럼 보인다

여기까지 보면 비교적 자연스러운 결론이 나온다. AI가 발견을 담당하기 시작한다면 인간은 그것을 검증하면 되지 않을까. 실제로 당분간은 상당 부분 그렇게 될 가능성이 높다. AI가 생성할 수 있는 가설의 수가 급증하면 연구의 병목은 가설 생성에서 실험과 검증으로 옮겨간다. 그런데 이 답에는 문제가 있다. 검증 역시 자동화되고 있기 때문이다.

수학에서는 theorem prover가 proof를 검증한다. 재료과학에서는 계산과 로봇 실험이 후보를 걸러낸다. 생명과학에서도 automated lab이 실험 과정을 점점 더 맡고 있다. 모든 분야가 같은 속도로 움직이지는 않을 것이다.

오히려 앞으로 분야별 차이를 결정할 중요한 조건은 그 학문에서 ‘검증됐다’는 상태를 얼마나 기계적으로 정의할 수 있는가에 있을 가능성이 있다.

분야	AI가 탐색하기 쉬운 것	검증 자동화 가능성	남아 있는 어려움
수학	정리, proof, construction	매우 높음	중요성, 새로운 개념, 설명
재료·화학	구조, 분자, 조합	높음	실제 환경, 산업적 가치
생물학	구조, target, mechanism	중~높음	organism·clinical translation
사회과학	가설, 관계, 행동 예측	중간 이하	construct, context, external validity
역사학	사료 복원, 관계 탐색	부분적	provenance, 맥락, 역사적 의미
철학·인문	argument space, textual relation	낮음	의미와 규범 자체가 논쟁 대상

이 차이를 나는 Verification Closure라는 개념으로 정리해볼 수 있다고 생각한다. 어떤 분야에서는 참인지 아닌지를 결정하는 절차가 비교적 닫혀 있다. 다른 분야에서는 무엇을 참으로 인정할 것인지부터 연구와 논쟁의 일부다. AI의 발전이 모든 학문에 같은 방식으로 영향을 미치지 않는 이유도 여기에 있을 수 있다.

8. 그렇다면 인간 연구자의 일이 사라지는 것이 아니라 한 단계 위로 올라가는 것은 아닐까

여기에서 내가 처음 가졌던 질문으로 돌아오게 된다. AI가 discovery frontier의 상당 부분을 담당하고, verification까지 점차 자동화한다면 인간에게 무엇이 남을까. 현재로서는 몇 가지 일이 오히려 더 중요해질 것 같다.

첫째는 문제를 선택하는 일이다.

가능한 발견이 많아질수록 어떤 문제에 계산과 실험 자원을 사용할지 결정해야 한다. 풀 수 있다는 사실은 그 문제를 풀어야 한다는 이유가 되지 않는다.

둘째는 개념을 만드는 일이다.

특히 사회과학에서는 무엇을 하나의 현상으로 볼 것인지, 어떤 construct를 만들 것인지가 연구 자체다. 조직신뢰, 혁신, 권력, 정당성 같은 개념은 자연이 미리 제공한 변수가 아니다. 연구자가 현실을 특정한 방식으로 잘라내면서 만들어진 분석 단위다.

셋째는 검증의 구조를 설계하는 일이다.

어떤 결과가 나오면 가설을 지지했다고 볼 것인지, simulation과 현실 실험 사이의 거리를 어떻게 다룰 것인지, 어느 시점부터 실제 환자나 조직이나 사회를 대상으로 검증해야 하는지를 결정해야 한다.

넷째는 발견의 의미를 해석하는 일이다.

상관관계 하나를 새롭게 발견하는 것과 그것이 기존 이론의 어떤 부분을 흔드는지는 다른 수준의 문제다. 새로운 proof가 있다는 사실과 그 proof가 수학자들의 사고방식을 바꾼다는 것도 같은 이야기가 아니다.

그리고 마지막에는 책임의 문제가 남는다.

어떤 실험을 해도 되는가. 어떤 연구를 중단해야 하는가. 발견한 지식을 공개하는 것이 옳은가. 사회적 비용이 큰 연구의 우선순위를 누가 정할 것인가. 이 질문들은 계산 성능이 올라간다고 자동으로 사라지지 않는다.

9. 다만 ‘인간은 의미를 판단한다’는 결론도 너무 편할 수 있다

여기서 글을 낙관적으로 끝내고 싶지는 않다. AI가 발견하고, 인간은 의미를 판단한다는 역할 분담은 지금으로서는 그럴듯하다. 그러나 이것 역시 기술의 현재 상태에서 나온 분업일 뿐이다. AI가 어떤 연구가 다른 연구보다 더 중요한지 예측하고, 어떤 문제가 후속 연구를 많이 만들어낼지 판단하고, 서로 다른 이론을 비교하고, 새로운 개념 체계를 제안하는 능력까지 발전하지 말라는 법은 없다.

그렇게 되면 인간이 맡고 있다고 생각했던 ‘상위 역할’도 다시 질문을 받게 된다. 그래서 이 문제의 끝에는 기술적인 질문보다 조금 오래된 질문이 남는다.

인간은 왜 연구하는가.

연구의 목적이 가장 빠르게 정답을 찾는 것뿐이라면, 더 나은 탐색자와 더 나은 검증자가 등장할 때 인간의 자리는 계속 줄어들 것이다. 하지만 연구가 세계를 이해하는 인간의 방식이기도 하다면 이야기는 조금 달라진다. 기계를 통해 새로운 지식을 얻는 것과, 그 지식이 인간에게 어떤 세계를 보여주는지를 이해하는 것은 완전히 같은 과정이 아닐 수 있다.

10. 두 개의 지식 프론티어

지금 나타나는 변화를 일단 두 개의 프론티어로 나눠볼 수 있을 것 같다.

하나는 Generative Frontier다.

아직 알려지지 않은 정리, 물질, 구조, 관계, 가설을 찾아내는 영역이다. 지금 가장 빠르게 AI가 들어오고 있는 곳이다.

다른 하나는 Epistemic Frontier다.

무엇을 연구 대상으로 삼을지, 무엇을 증거로 인정할지, 발견된 결과가 기존 지식을 어떻게 바꾸는지, 그 지식을 어디에 사용할지 결정하는 영역이다.

현재 연구자의 역할은 점차 두 번째 영역으로 이동하는 것처럼 보인다. 다만 이 구분도 영구적인 것은 아닐 것이다. AI가 Epistemic Frontier까지 들어오기 시작한다면 연구자의 역할을 다시 정의해야 한다. 어쩌면 앞으로 연구자의 가장 중요한 능력은 남들이 생각하지 못한 답을 혼자 만들어내는 능력이 아닐 수도 있다. 수없이 많은 답이 만들어지는 상황에서 어떤 질문을 계속 붙잡고 있어야 하는지를 아는 능력이 더 희소해질 수 있다. 그 지점이 지금 내가 AI와 연구를 보면서 가장 궁금한 부분이다.