생활속의 AI 윤리 1 - 2차시
2026년 9월 6일 공유
AI 시대와 AI 윤리
개요
- 주제: ChatGPT와 GPT 시리즈의 발전 과정을 통해 AI가 갖는 윤리적·안전적 문제를 조명
- 핵심 메시지: AI는 뛰어난 성능과 함께 잠재적 위험을 동반하며, 이를 관리하기 위해 안전성, 신뢰성, 보안을 체계적으로 검증해야 함
핵심 개념
범주 | 내용 | 중요도 |
|---|---|---|
GPT 모델 역사 | GPT‑1 → GPT‑2 → GPT‑3 → GPT‑3.5 → GPT‑4 | ★★★★ |
정렬(Alignment) | 인간 평가를 통한 강화학습으로 위험한 답변 억제 | ★★★ |
Jailbreak | 사용자가 제한된 답변을 우회해 가져오는 기법 | ★★★ |
Hallucination | 근거 없는 정보를 생성 | ★★ |
Bug Bounty | 외부 보안 연구자를 통한 취약점 발견 보상제도 | ★★ |
AI 안전 프레임워크 | Soundness (건전성) → Safety (안전) → Security (보안) | ★★★★ |
Trustworthiness | AI가 의도한 대로 동작하는지의 신뢰성 평가 | ★★★ |
핵심 포인트: AI 시스템은 단순히 성능이 높다고 안전한 것은 아니며, 정렬, 안전성, 보안을 동시에 확보해야 진정한 신뢰를 얻을 수 있다.
상세 노트
1. GPT 모델 발전
- GPT‑1 (2018): 1억 7천만 파라미터, 학습 데이터 범위 제한
- GPT‑2: 15억 파라미터, 15배 확대
- GPT‑3: 1,750억 파라미터, 대규모 언어 모델로 상용화
- GPT‑3.5: GPT‑3 기반에서 2년 5개월간 강화학습·정렬 과정을 거쳐 2022년 공개
- GPT‑4: 3.5 대비 성능·안전성 향상, 여전히 hallucination 존재
2. OpenAI의 정렬 및 안전 전략
- 강화학습(RLHF): 인간 평가자가 ‘좋은 답변’에 보상, ‘나쁜 답변’에 제재 → 정렬
- 정책(Policy) 설정: 성인물·군사기밀·오픈AI 내부 정보에 대한 응답 금지
- Jailbreak 방지: 프롬프트 조작으로 제한 우회 시도 방지, 그러나 완전 무효화 불가
3. Google과의 비교
- Google(Alphabet) 내부 모델 Lambda 등은 GPT‑3보다 성능 우수
- 공개 여부 결정은 잠재적 위험 통제 미흡 때문 → 비공개
- 2023년 2월 파리 발표한 Bard는 “hallucination” 문제로 주가 하락, 이후 Gemini 출시
4. AI 윤리와 안전 프레임워크
- Soundness (건전성): 목적에 부합하고 악용되지 않는지 검사
- Safety (안전): 사고·위험 발생 시 빠른 회복 가능성
- Security (보안): 해킹·데이터 오염·취약점 방어
- Verification/Validation: 개발자 vs 사용자 관점에서의 검증
5. 버그 바운티와 취약점 관리
- 보상 구조: 20,000 (3천만 원 수준)
- 기간: 3개월이 기본이지만 지속 진행 중
- 제외 대상: Jailbreak, Hallucination → 무한 반복 가능성으로 보상 불가
6. AI 윤리의 실질적 적용
- 신뢰성(Trustworthiness): AI가 사용자 의도대로 동작하는지 판단
- 안전성(Safety): 사고 발생 시 피해 최소화
- 보안(Security): 공격으로부터 보호
- 규제와 정책: 미국 상원·국제 협력 등 규제 논의 중
마무리 AI는 뛰어난 잠재력을 지니지만, 정렬, 안전성, 보안을 종합적으로 보장해야 한다. 기존 소프트웨어 개발에서 적용되는 Soundness‑Safety‑Security 트라이어드와 같은 프레임워크를 AI에도 그대로 적용해 신뢰성 있는 시스템을 만들어야 한다.