mmpose 소스 실행 중 아래와 같은 오류가 발생해서 확인해보니, mmcv 라이브러리와 torch 버전이 호환되지 않아 발생한 문제였습니다. torch 버전을 계속 다운그레이드 해서 해결했습니다. 최신 버전은 호환이 안되고, 1.11.0 버전까지 호환이 되네요. 오류로그 ImportError: ~/anaconda3/mmpose/lib/python3.8/site-packages/mmcv/_ext.cpython-38-x86_64-linux-gnu.so: undefined symbol: _ZNK3c1010TensorImpl36is_contiguous_nondefault_policy_implENS_12MemoryFormatE 해결방법 (본인 cuda 버전에 맞게 쓰시면 됩니다.) cuda 11.3의 경우는 아..

로컬에서 개발하던 django 웹 서버를 AWS로 배포한 뒤, 443 또는 80 포트로 띄우고 싶어서 gunicorn, nginx같은 방법을 알아보다가, 좀 더 빠른 처리를 위해 caddy를 사용했습니다. caddy는 지금처럼 80 포트 포워딩으로도 써도 되고, letsencrypt HTTPS 인증서 처리도 자동으로 세팅해줘서 무료 HTTPS 설정을 할 때도 용이합니다. Caddy 설치해서 80 -> 8000으로 port forwarding 처리해서 해결했습니다. 1. Caddy 설치 sudo apt install -y debian-keyring debian-archive-keyring apt-transport-https curl -1sLf 'https://dl.cloudsmith.io/public/ca..

Postgres에서 timestamp with timezone 타입을 사용하면 default timezone이 보통 UTC로 잡혀 있다. 이를 한국 시간으로 변경하기 위해서는 아래와 같은 쿼리를 사용하면 된다. ALTER 명령으로 데이터베이스 연결 끊고, 다음에 접속해도 계속 해당 타임존 상태가 유지된다. ALTER DATABASE postgres SET TIMEZONE='Asia/Seoul'; 로컬 환경에서 돌릴 때는 한국 시간 기준으로 잡혀서 이런 점이 문제가 안됐는데, AWS의 RDS를 사용하다보니 이런 이슈가 생겼다. python에서 datetime 변수를 한국 기준 timezone으로 세팅해서 INSERT를 했는데도 계속 UTC 기준 시간(한국시간-9시간) 형태가 표시되는 문제가 있었다. set..

안녕하세요 이번에 회사에서 모델 API 서버를 개발하면서 NVIDIA Triton server(트리톤 서버)을 적용해봤는데요. 확실히 2배 이상 속도 개선도 되고, django를 쓰던 방식보다는 훨씬 안정적으로 운영할 수 있었습니다. 무엇보다 경량화 때문에 GPU 점유율도 낮아져서 여러 모델을 다 올릴 수 있어서 좋더라구요. 다만 혼자 찾아가며 하려니, 정확히 필요한 게 하나로 정리된 글이 없어서, 삽질이 굉장히 많았습니다. 그래서 적용하는 방법을 이 글에 모두 정리하기 위해 글을 씁니다. 이 글에서 다룰 내용은 아래와 같습니다. 1. Nvidia Triton Server를 사용해야 되는 이유 2. 내 모델을 Triton Server에 넣는 방법 3. 실제 사용 후기 1. Nvidia Triton Ser..

자주 까먹는 Git 명령어 모음입니다. (하나씩 추가 예정) Git 특정 브랜치 pull하기 git checkout html-skeleton git pull git branch

계속 트렌드를 봐야 하다 보니, 요즘 보는 사이트들이 어느 정도 정리가 됐다. 의외로 깃허브나 링크드인도 효과가 있었습니다. 1. paperswithcode.com https://paperswithcode.com/ Papers with Code - The latest in Machine Learning Papers With Code highlights trending Machine Learning research and the code to implement it. paperswithcode.com 머신러닝 개발자라면 다들 아시겠지만 관심 분야의 데이터셋을 정해놓고 한번씩 새로 올라온 거 없나 확인하거나, 홈 화면에서 새로 올라온 논문/코드들을 확인하는 용도로 사용합니다. 2. Github 깃허브에서 어..