mmcv 라이브러리 문제 같습니다. 기존 mmcv 삭제 후 mmcv-full 설치하는 걸로 해결했습니다. 해결방법 pip uninstall mmcv pip install mmcv-full --------------------- 24/1/29 추가 mmcv 2 미만 버전을 사용하는 경우에는 아래처럼 환경을 명시해서 설치해줘야 합니다. pip install mmcv-full==1.6.0 -f https://download.openmmlab.com/mmcv/dist/cu116/torch1.12.0/index.html 사용하는 환경의 pytorch, cuda 버전 명시해서 설치

Pycharm의 경우, python 기본 가상환경인 venv 가상환경을 기본으로 사용한다. 이 venv가 열린 상태에서 anaconda로 가상환경을 새로 만들면, 2개의 가상환경이 다 될 것처럼 보인다. (venv) (base) user@admin 실제로 이 상태에서 conda install torch 식으로 해서 쓰던게 잘 되다가 다시 접속해서 보니 conda 로 설치한 라이브러리가 전혀 설치되지 않은 상태로 나왔다. 해결 가상환경을 제거하고, conda 환경만 사용한다. sudo rm -r venv 파이참에서는 위의 명령어로 가상환경 폴더 제거 후 terminal 껐다가 다시 키면 정상 확인 가능하다. 참 별 거 아닌데 이런 식으로 시간 걸릴 때가 있다.

mmpose 소스 실행 중 아래와 같은 오류가 발생해서 확인해보니, mmcv 라이브러리와 torch 버전이 호환되지 않아 발생한 문제였습니다. torch 버전을 계속 다운그레이드 해서 해결했습니다. 최신 버전은 호환이 안되고, 1.11.0 버전까지 호환이 되네요. 오류로그 ImportError: ~/anaconda3/mmpose/lib/python3.8/site-packages/mmcv/_ext.cpython-38-x86_64-linux-gnu.so: undefined symbol: _ZNK3c1010TensorImpl36is_contiguous_nondefault_policy_implENS_12MemoryFormatE 해결방법 (본인 cuda 버전에 맞게 쓰시면 됩니다.) cuda 11.3의 경우는 아..

로컬에서 개발하던 django 웹 서버를 AWS로 배포한 뒤, 443 또는 80 포트로 띄우고 싶어서 gunicorn, nginx같은 방법을 알아보다가, 좀 더 빠른 처리를 위해 caddy를 사용했습니다. caddy는 지금처럼 80 포트 포워딩으로도 써도 되고, letsencrypt HTTPS 인증서 처리도 자동으로 세팅해줘서 무료 HTTPS 설정을 할 때도 용이합니다. Caddy 설치해서 80 -> 8000으로 port forwarding 처리해서 해결했습니다. 1. Caddy 설치 sudo apt install -y debian-keyring debian-archive-keyring apt-transport-https curl -1sLf 'https://dl.cloudsmith.io/public/ca..

Postgres에서 timestamp with timezone 타입을 사용하면 default timezone이 보통 UTC로 잡혀 있다. 이를 한국 시간으로 변경하기 위해서는 아래와 같은 쿼리를 사용하면 된다. ALTER 명령으로 데이터베이스 연결 끊고, 다음에 접속해도 계속 해당 타임존 상태가 유지된다. ALTER DATABASE postgres SET TIMEZONE='Asia/Seoul'; 로컬 환경에서 돌릴 때는 한국 시간 기준으로 잡혀서 이런 점이 문제가 안됐는데, AWS의 RDS를 사용하다보니 이런 이슈가 생겼다. python에서 datetime 변수를 한국 기준 timezone으로 세팅해서 INSERT를 했는데도 계속 UTC 기준 시간(한국시간-9시간) 형태가 표시되는 문제가 있었다. set..

안녕하세요 이번에 회사에서 모델 API 서버를 개발하면서 NVIDIA Triton server(트리톤 서버)을 적용해봤는데요. 확실히 2배 이상 속도 개선도 되고, django를 쓰던 방식보다는 훨씬 안정적으로 운영할 수 있었습니다. 무엇보다 경량화 때문에 GPU 점유율도 낮아져서 여러 모델을 다 올릴 수 있어서 좋더라구요. 다만 혼자 찾아가며 하려니, 정확히 필요한 게 하나로 정리된 글이 없어서, 삽질이 굉장히 많았습니다. 그래서 적용하는 방법을 이 글에 모두 정리하기 위해 글을 씁니다. 이 글에서 다룰 내용은 아래와 같습니다. 1. Nvidia Triton Server를 사용해야 되는 이유 2. 내 모델을 Triton Server에 넣는 방법 3. 실제 사용 후기 1. Nvidia Triton Ser..