[한국경제신문 with toss bank/ 특강] 금융업에서의 AI 활용 및 실사례 소개

인공지능 ⊃ 머신러닝 ⊃ 딥러닝

현대의 인공지능 기술은 딥러닝 근간으로 함

자연어, 컴퓨터 비전, 음성 처리 등의 영역에서 딥러닝은 독보적인 위치

 

현대에는 다양한 딥러닝 아키텍처(DNN, RNN, CNN, Transformer, ectc)가 활용되고 있음

But, 딥러닝이라는 기술의 원천은 DNN(Deep Nueral Network)

인간의 뉴런 구조를 모사한 형태로서 주로 역전파(Backpropagation) ~> 학습

---

LM: Language Model

• 일반적으로 단어의 시퀀스(문장)에 대해, 다음에 나타날 단어가 어떤 것인지를 예측하는 모델을 의미
• 크기 ↑ -> downstram task에서의 성능 향상되는 경우 ↑ 사실 발견 (scale law)

=> 성능 향상 -> 모델의 크기 ↑ 방법 자주 활용

But, LM 크기 커짐에 따라 이전에 학습하지 않은 task 해결할 수 있는 능력: Emergent Ability

선형적으로 나타난 것 X 모델이 특정 크기에 도달하면 갑자기 나타나는 능력

In-Context Learning/ Instruction-Following/ ...

---

LLM: Large Language Models

이후 10B 이상의 거대한 언어모델(LLM) xkstod

RLHF, instruction-tuning 등의 방법론 또한 발전 -> 유래없는 LLM의 성능 향상

---

금융업의 세부분야

• 은행
  • 일반은행
  • 특수은행
• 보험회사
  • 손해보험
  • 생명보험
• 기타 금융기관
  • 금융지주회사
  • 카드사
  • 벤처캐피탈
  • 한국주택금융공사
  • 한국무역보험공사
• 금융보조기관
  • 금융감독원
  • 한국거래소
  • 한국예탁결제원
  • 예금보험공사
• 금융투자업자
  • 증권사
  • 선물회사
• 비은행 예금취급기관
  • 새마을금고
  • 신협
  • 상호저축은행

---

단순히 이익의 극대화를 넘어 서비스 품질 향상을 위해

추천 시스템 고도화, 챗봇을 결합한 CS 시스템, AI 기반 개인 자산 관리 시스템 등에도 활용

무한 경쟁 속에서, 고객 만족을 키우고 수익을 키우고 비용을 줄이는 방향을 위해 AI 기술 연구, 개발이 이어지는 중

---

검색 증강 생성(RAG; Retrieval-Augmented Generation)

• 대규모 언어 모델의 한계를 극복하기 위해 제안된 새로운 자연어 처리 기술
• LLM 한계 극복을 위해 지식 검색 + 언어 생성 결합한 프레임워크
• 질문에 답하기 위해 필요한 지식을 외부 데이터베이스에서 검색하여 활용하는 것

LLM은 RAG라는 아키텍처 바탕으로 빠르게 서비스에 적용되기 위해 발전 중

---

[사례] LLM 기반 금융 미디어 서비스 "Project Pluto' (뉴욕주민)

복잡한 금융 콘텐츠를, AI를 활용하여 실시간 기사로 만들어주는 스타트업

LLM을 활용하여 금융과 AI 기술을 연결한 스타트업

목표: 금융과 AI 기술의 전문성을 바탕으로 신뢰할 수 있는 금융 정보를 제공하는 것

뉴욕주민

• 기사 분석 모델
  • AI로 기사를 작성하는 것을 넘어, 기사의 사실만을 추출하는 단계
  • 원 기사의 표현, 기자의 생각, 논리적 흐름 배제하고 순수한 사실만의 추려냄
  • 언론의 저작권과 지적 재산권을 존중
• 기사 생성 모델
  • 분석된 사실들을 바탕으로 팩트 데이터 생성
  • 데이터베이스에서 필요한 정보와 데이터 수집
  • OpenAPI GPT or Google Gemini 기반 대형언어모델 사용
  • 커스텀 프롬프팅 ~> 기사의 구조와 필요한 데이터 지시
  • 최신 정보를 반영하기 위해 RAG 기법 사용
• 기사 검수 모델
  • 'Human in the loop' 접근 방식 사용
  • AI가 생성한 기사의 정확성과 품질을 사람이 확인
  • 부정확한 정보 수정 및 최종 기사의 정확도 높임
  • 실패한 기사 사례를 샘플로 만들어 프롬프트 개선 및 자동 학습
  • AI 자동 채점 시스템으로 점수 예측 및 평가 기준에 맞게 모델 튜닝
  • 지속적인 평가 기준 개선 및 효율성 향상, 비용 절감
  • 사용자의 만족도 높이기 위해 사람이 직접 검증하는 과정 강조

---

후기

이한울 개발자님(NCSOFT)...24년도 논문이 4개셨는데 커리어 뺏고 싶다...

그리고 지금까지 오신 분들 중에 설명을 제일 깔끔하게 하시는 것 같다

강의력과 피피티 모두 만족 ~ 

논문 읽거나 세미나 하신다면 가고 싶을 정도