[YouTube] Build a Bash Computer Operator Agent

[원본] https://www.youtube.com/watch?v=pfDMyX8utsY

Gemini에 의해서 요약 후 일부 수정되었습니다.

이 영상은 NVIDIA의 Nemotron 모델을 활용하여 **Bash 명령어 실행을 수행하는 AI 에이전트(Bash Computer Operator Agent)**를 구축하는 방법을 상세하게 설명하고 있습니다. NVIDIA의 프로덕트 리서치 엔지니어인 Moran이 직접 데모와 코드 구조를 시연합니다.

1. 에이전트 데모 및 기능 개요

• 기본 기능 [01:44]: 사용자가 자연어로 요청(예: "이 디렉토리의 파일 목록을 보여주고 가장 용량이 큰 파일을 알려줘")을 하면, 에이전트가 이를 분석하여 적절한 Bash 명령어(예: ls -l)를 제안합니다.
• 인간 개입 (Human-in-the-loop) [03:11]: 안전을 위해 에이전트가 명령어를 바로 실행하지 않고, 사용자에게 실행 승인을 요청합니다. 사용자가 승인(Confirm)해야만 명령어가 터미널에서 실행됩니다.
• 실행 결과 분석 [03:31]: 명령어 실행 후, 에이전트는 출력된 결과(Output)를 읽고 분석하여 사용자에게 최종 답변을 제공합니다.

2. 작동 원리 및 워크플로우 [07:11]

• 구조: 사용자 ↔ 에이전트 간의 반복적인 루프(Loop)로 구성됩니다.

1. 사용자 요청
2. 모델이 '생각(Think)' 과정을 거쳐 적절한 도구(Bash) 호출 결정
3. 명령어 실행 및 결과 반환
4. 모델이 결과를 바탕으로 추가 작업이 필요한지 판단하거나 사용자에게 응답

• 구성 요소: Nemotron 모델(두뇌 역할)과 Bash 실행 도구(손발 역할)가 연결되어 작동합니다.

3. 코드 구현 상세 (Python 기반) [15:45]

영상에서는 GitHub에 공개된 코드를 기반으로 주요 파일을 설명합니다.

• Config 파일 (config.py):

• 모델 경로, 시스템 프롬프트, 허용된 명령어 목록(Allow list) 등을 설정합니다.
• Thinking Mode [18:32]: Nemotron 모델의 추론 능력을 높이기 위해 /think 모드를 활성화하여 복잡한 작업을 수행하도록 설정할 수 있습니다.

• Bash 도구 구현 (bash.py) [23:21]:

• subprocess.run을 사용하여 실제 명령어를 실행합니다.
• 보안 조치 [24:10]: 명령어 주입(Injection) 공격을 방지하기 위해 $, ; 등의 특수 문자를 검사하고, 허용된 명령어만 실행되도록 필터링합니다.

• 메인 루프 (main.py) [30:05]:

• 사용자의 입력을 받고, 모델의 응답(텍스트 또는 도구 호출)을 처리하며, 대화 맥락(Context)을 유지하는 로직이 구현되어 있습니다.

4. 하드웨어 요구 사항 및 모델

• 모델: 영상에서는 Nemotron Nano 모델을 로컬 환경에서 구동하여 시연했습니다.
• 권장 사양 [14:12]: 쾌적한 구동을 위해 약 24GB의 VRAM(예: RTX 3090, 4090 등)을 권장하지만, 설정을 조절하면 더 낮은 사양에서도 구동 가능합니다.

5. 주요 Q&A 포인트

• Cursor(AI 코딩 툴)와의 차이점 [11:00]: Cursor도 명령어를 실행할 수 있지만, 이 영상의 목적은 이러한 에이전트 시스템이 내부적으로 어떻게 구축되는지를 보여주고 사용자가 직접 커스텀 에이전트를 만들 수 있도록 돕는 데 있습니다.
• 보안 및 샌드박스 [21:05]: 루트 디렉토리를 설정하여 활동 반경을 제한하려 하지만, cd 명령어로 벗어날 수 있는 등 한계가 있으므로 **반드시 사용자 승인 절차(Human-in-the-loop)**를 유지하는 것이 중요하다고 강조합니다.
• 오프라인/에어갭 환경 [43:38]: 인터넷 연결이 없는 폐쇄망(Air-gapped) 환경에서도 모델 체크포인트를 미리 다운로드하여 구축(NIM 활용)할 수 있습니다.

이 프로젝트의 전체 코드는 NVIDIA의 Generative AI Examples GitHub 리포지토리에서 확인할 수 있습니다.

GitHub 리포지토리 - https://github.com/NVIDIA/GenerativeAIExamples