기초 · 읽는 데 약 7분

생성형 AI는 어떻게 말할까: 다음 단어 예측 쉽게 이해하기

AI 챗봇과 이야기하다 보면 사람처럼 말해서 놀랄 때가 있어요. 그 속을 들여다보면 핵심 원리는 '다음 단어 예측'이에요. 원리를 알면 AI를 어디에 쓰고 언제 확인해야 할지도 보여요.

생성형 AI란 무엇일까요?

생성형 AI는 글, 그림, 소리, 영상 같은 새로운 결과물을 만들어 내는 AI예요. 우리나라 인공지능 기본법(제2조)은 생성형 AI를 입력한 데이터의 구조와 특성을 흉내 내어 글, 소리, 그림, 영상 등 다양한 결과물을 만드는 인공지능시스템으로 정의해요.

이 글에서는 그중 글을 쓰는 AI 챗봇을 중심으로 설명해요. AI 챗봇의 바탕에는 '대규모 언어 모델'이 있어요. 아주 많은 글을 학습해 말의 패턴(반복되는 특징)을 익힌 프로그램이라는 뜻이에요.

그림이나 목소리를 만드는 AI도 많은 예시에서 패턴을 배운다는 점은 같아요. 다만 결과물을 만드는 방식은 종류마다 달라서, 이 글의 설명은 주로 글을 쓰는 AI에 해당해요.

핵심은 다음 단어 예측이에요

휴대폰으로 문자를 쓸 때 '오늘 저녁'까지 치면 '먹자'나 '약속' 같은 다음 말이 추천되지요. AI 챗봇의 원리도 이와 닮았어요. 지금까지 나온 말을 보고, 그 뒤에 올 가능성이 높은 말을 고르는 거예요.

차이는 규모와 맥락이에요. AI 챗봇은 질문 전체와 앞선 대화를 함께 살피며 한 단어를 고르고, 그 단어를 붙인 뒤 다시 다음 단어를 골라요. 이 과정을 아주 빠르게 되풀이해 긴 답을 완성해요.

맥락이 왜 중요한지 예를 들어 볼게요. '배가 아파서' 뒤에는 병원이나 약 이야기가, '배를 타고' 뒤에는 바다나 여행 이야기가 이어지기 쉬워요. 같은 '배'라도 앞뒤 말에 따라 다음 말이 달라지는 거예요.

미국 국립표준기술연구소(NIST)도 대규모 언어 모델이 문장에서 다음 토큰이나 단어를 예측한다고 설명해요. 토큰은 바로 아래에서 설명할게요. 2017년 발표된 '트랜스포머'라는 설계 방식은 문장 속 단어들이 서로 얼마나 관련 있는지를 '어텐션(주의 집중)'이라는 방법으로 계산해요. AI가 다음 말을 고를 때 앞에 나온 말들 가운데 어디에 더 주목할지 정하는 데 쓰여요.

글을 잘게 나눈 조각, 토큰

AI는 글을 '토큰'이라는 조각으로 나눠 다뤄요. 토큰은 단어 하나일 수도 있고, 단어의 일부나 문장 부호일 수도 있어요. 그래서 '다음 단어 예측'은 정확히 말하면 '다음 토큰 예측'이에요.

자주 쓰지 않는 낱말은 더 작은 조각으로 쪼개요. 2015년 기계 번역 연구에서 나온 한 방법은 드문 낱말을 작은 조각 여러 개를 이어 붙인 것으로 나타냈어요. 이렇게 하면 처음 보는 낱말도 아는 조각을 조합해 다룰 수 있어요.

AI가 한 번에 살펴볼 수 있는 토큰의 양에는 한도가 있어요. 한도 안이라도 글이 아주 길면 놓치는 내용이 생길 수 있어요. 2023년 한 연구에서는 긴 글의 처음이나 끝에 있는 정보는 잘 활용했지만, 가운데에 있는 정보는 활용하는 능력이 크게 떨어지는 경우가 많았어요. 그래서 대화가 길어지면 중요한 조건을 질문할 때 다시 한번 적어 주는 것이 좋아요.

AI는 이렇게 배워요

첫 단계는 '사전 학습'이에요. 아주 많은 양의 글을 보며 다음에 올 단어를 맞히는 연습을 되풀이해요. 이 과정에서 문법과 말투, 자주 함께 나오는 정보의 패턴을 익혀요.

AI는 학습한 글을 도서관 책처럼 그대로 꽂아 두었다가 찾아 주는 방식으로 답하지 않아요. 기본적으로는 글에서 익힌 패턴을 바탕으로 문장을 새로 만들어요. 그래서 학습한 내용이라도 늘 정확하게 다시 말한다는 보장은 없어요.

다음 단계에서는 사람의 평가로 다듬어요. 2022년 발표된 한 연구에서는 사람이 모범 답을 직접 써서 보여 주고, AI가 낸 여러 답에 순위를 매겨 다시 학습시켰어요. 이렇게 다듬은 모델은 규모가 100분의 1 정도로 작은데도, 다듬지 않은 큰 모델보다 사람들에게 더 좋은 평가를 받았어요.

그래도 기본 원리는 다음 말을 예측하는 것이에요. NIST 문서도 이런 확률에 따른 예측이 사실에 맞는 답을 낼 수도 있지만, 사실과 다르거나 앞뒤가 맞지 않는 답을 낼 수도 있다고 설명해요. 문장이 자연스럽다는 것과 내용이 맞다는 것은 서로 다른 문제예요.

같은 질문에 답이 달라지는 이유

AI는 다음 단어 후보마다 확률을 매겨요. 예를 들어 '오늘 날씨가' 뒤에는 '맑아요', '흐려요', '좋네요' 같은 후보가 저마다 다른 확률로 올라와요.

늘 확률이 가장 높은 단어만 고르면 오히려 글이 단조로워지고 같은 표현이 자꾸 되풀이되기 쉽다는 2019년 연구가 있어요. 이 연구는 확률이 높은 후보들만 추린 뒤, 그 안에서 확률에 따라 골라 쓰는 방법을 제안했어요. 이렇게 고르는 과정에 우연이 섞이면 같은 질문에도 답이 조금씩 달라질 수 있어요.

이 방식은 장점이자 한계예요. 자연스럽고 다양한 글이 나오지만, 숫자나 이름처럼 정답이 하나뿐인 내용에서도 그럴듯한 다른 답이 섞여 나올 수 있어요. 같은 질문을 두세 번 했을 때 자꾸 바뀌는 부분이 있다면, 그 부분부터 확인하는 것이 좋아요.

원리를 알면 이렇게 써요

AI 답은 '찾아온 정답'이라기보다 '잘 쓴 예측'에 가깝다고 생각하세요. 초안 쓰기, 어려운 글을 쉬운 말로 풀기, 생각 정리하기처럼 표현이 중요한 일에 잘 맞아요. AI가 쓴 초안은 내 말투와 사실에 맞게 한 번 더 고쳐 쓰면 좋아요.

질문에 맥락을 많이 줄수록 AI가 다음 말을 고를 단서가 늘어나요. 그냥 '문자 써 줘'보다 '이웃에게 보낼 감사 문자를 세 줄로 써 줘'처럼 대상과 형식을 알려 주면 원하는 답에 가까워지기 쉬워요.

반대로 최신 소식, 정확한 숫자, 법과 건강 정보는 공식 자료로 확인하세요. AI는 학습을 마친 뒤에 생긴 일을 모를 수 있어요. 검색 기능이 있는 서비스도 출처를 잘못 붙일 수 있으니, 링크를 직접 열어 보세요. 건강이나 돈에 관한 결정은 AI 답만으로 정하지 말고 전문가와 상의하세요.

오늘부터 해 볼 것

  • AI 답은 '그럴듯한 예측'이라는 점을 떠올리며 읽기
  • 질문할 때 목적과 상황을 함께 적어 맥락 주기
  • 대화가 길어지면 중요한 조건을 다시 한번 적어 주기
  • 같은 질문을 두세 번 해 보고 답이 흔들리는 부분 찾기
  • 숫자·이름·날짜는 공식 자료로 따로 확인하기
  • 최신 소식은 날짜가 적힌 공식 발표나 기사로 확인하기

읽은 내용을 글링코에게 가르쳐 줄까요?3분 수업을 풀면 글링코가 배우고 자라요.

「AI는 무엇일까」 수업 풀기

이 글에 나온 용어

자주 묻는 질문

AI는 내 말을 정말 이해하나요?

AI가 사람처럼 이해하는지는 연구자들 사이에서도 의견이 갈려요. 2022년 나온 한 논문은 이 문제를 두고 찬성과 반대 주장이 맞서는 뜨거운 논쟁이라고 정리했어요. 분명한 것은 AI가 학습한 말의 패턴을 바탕으로 다음 말을 고른다는 점이에요. 그래서 대답이 자연스러워도 내용이 맞는지는 따로 확인해야 해요.

AI 챗봇은 인터넷을 실시간으로 찾아보나요?

서비스마다 달라요. 학습한 내용만으로 답하기도 하고, 검색 기능을 함께 쓰기도 해요. 검색을 하더라도 출처를 잘못 붙이거나 오래된 정보를 섞을 수 있어요. 2025년 유럽방송연맹(EBU)이 조율한 여러 나라 공영방송의 공동 조사에서도 AI 챗봇의 뉴스 답변에서 출처 문제와 오래된 정보가 확인됐어요.

AI는 왜 '모르겠어요'라고 잘 말하지 않나요?

2025년 발표된 한 연구는 지금의 학습과 평가 방식이 모른다고 답하기보다 추측하는 쪽에 유리하다고 분석했어요. 시험에서 빈칸으로 두기보다 찍는 편이 점수에 유리한 것과 비슷해요. 그래서 AI가 자신 있게 말해도 중요한 내용은 확인이 필요해요.

참고한 자료

함께 읽으면 좋은 글