진행 과정

1. 우바부가 세션에서 gallery, openai, api, listen, public_api 켜고 재시작.

2. 모델 로드

3. Ngrok 실행

4. Ngrok에서 ngrok http 7860 입력

5. 나온 ngrok-free.app 주소를 리스 우바부가에 넣고 아무 대화나 시작 (모델과 보조모델 둘 다 우바부가로 설정)

결과:

6. 직접 요청 보내기 끄고 다시 대화 시작

결과:

7. 리버스 프록시에 주소 넣고 돌림 (직접 요청 보내기 꺼짐)

결과:

8. 리버스 프록시에 주소 넣고 돌림 (직접 요청 보내기 켬)

결과:

9. /v1/chat/completions 주소에 붙이고 우바부가로 실험

결과:

10. /v1/chat/completions 주소에 붙여넣고 우바부가로 실험 (직접 요청 보내기 끔)

결과: 

11. /v1/chat/completions 주소에 붙여넣고 리버스 프록시로 실험 (직접 요청 보내기 끔)

결과:

12. /v1/chat/completions 주소에 붙여넣고 리버스 프록시로 실험 (직접 요청 보내기 켬)

결과:

혹시 필요할까봐 ngrok 로그도 올림

답변 달린 걸 늦게 봐서 지금 올립니다... 여기서 뭘 어떻게 해야할까요?