인공지능 맛보기 블로그

LLM Agent가 할 수 있는 일들이 점점 많아지면서 다양한 도메인에 대해 안전하고 신뢰할 수 있는 출력을 보장하는 것이 매우 중요해졌습니다. 가드레일(Guardrails)은 AI 에이전트가 의도하지 않은 위험한 행동을 하거나 잘못된 코드를 생성하는 것을 방지하는 다층 방어 메커니즘입니다.코드를 생성하는 에이전트를 예시로 들어볼까요? 생성 결과가 소스코드 형태인 에이전트는 다양한 자동화 업무에 투입될 수 있지만, 그 능력 범위가 확장될수록 위험 범위도 커집니다.코드 생성 에이전트의 주요 위험 요소1. 코드 품질 관련 위험구문 오류: 실행 불가능한 코드 생성API 인터페이스 불일치: 정의된 스키마나 인터페이스를 위반하는 코드보안 취약점: SQL 인젝션, XSS 등 보안 결함이 있는 코드성능 이슈: 무한루..

인공지능과 LLM이 키워드가 된 지는 꽤나 많은 시간이 흘렀지만, 기술적인 원리들과 용어들은 전공자가 아닌 입장에서 보면 여전히 막연하게 느껴질 수도 있을 것 같습니다. 이 블로그에서는 LLM과 다양한 최신 딥러닝 모델들이 더이상 '내부를 알 수 없는' 미지의 존재로 여겨지지 않도록 다양한 깊이와 관점에서 다뤄 보려고 합니다. 어떤 방식으로 동작하고, 어떤 방식으로 활용될 수 있는지 예측 가능한 친근한 개념으로 인공지능 모델을 소개하는 것이 목표입니다.대규모 언어 모델(LLM)은 이름에서도 알 수 있듯이, 방대한 양의 언어 데이터를 '학습'시켜 만들어낸 거대한 딥러닝 모델입니다. GPT-3, ChatGPT와 같은 생성 기반의 LLM이 큰 관심을 얻기 전까지, 딥러닝 모델을 학습시키는 과정은 대부분 정답을..