Skip to content

Instantly share code, notes, and snippets.

View choiseoungho's full-sized avatar

choiseoungho choiseoungho

View GitHub Profile
@choiseoungho
choiseoungho / gist:f04e2b9b37848c26b5e4fd0604eb6fc2
Created October 20, 2021 02:05
아나콘다 오프라인 가상환경 생성 , 가상환경 추출 및 설치
아나콘다 오프라인 가상환경 생성 , 가상환경 추출 및 설치
https://ducj.tistory.com/211
배치 처리 및 실시간 처리 시스템
1. 배치 처리로 일괄 학습 (배치 학습, Batch learning)
2. 배치 처리로 순차 학습 (실시간 학습, Online Learning)
3. 실시간 처리로 순차 학습
배치 처리를 적용한 학습 패턴 3가지와 실시간 처리로 학습하는 패턴
1. 배치 처리로 학습 + 예측 결과를 웹 애플리케이션에서 직접 산출 (예측을 실시간 처리)
2. 배치 처리로 학습 + 예측 결과를 API 를 통해 사용 (예측을 실시간 처리)
3. 배치 처리로 학습 + 예측 결과를 DB 에 저장하고 사용 (예측을 배치 처리)
4. 실시간 처리로 학습
Canary Test(카나리 테스트)
- 카나리아 환경을 하나 만들어 놓고 트래픽의 일부를 카나리아 환경을 보내서 운영환경에서 테스트 했을때 리스크를 줄이는 방법
- 개발을 할 때 운영 환경에서만 나는 문제들이 있기 때문에 운영환경과 새로 수정한 프로그램이 잘 작동하는지 테스트를 해보는 방법중에 하나
- 안정적인 버전과 테스트 버전이 모두 배포된 상태이기 때문에 A/B 테스트가 가능
- 유저가 100명으로 가정시 95명에게는 안정적인 버전의 앱을 제공하고 나머지 5명에게는 조금 실험적인 코드가 담긴 앱을 제공
참조 :
- https://krksap.tistory.com/1202
- https://codechacha.com/ko/what-is-canary-development-test/
- https://eyeballs.tistory.com/13
데이터 프로파일링
- 데이터 현황분석을 위한 자료수집, 데이터의 통계, 패턴등을 수집하여 잠재적 오류 징후를 발견하는 방법
- 결국 오류를 찾아내기 위해 자료를 수집하고 분석
언제 하는가?
- 데이터의 저장, 연계, 가공 활용 등 데이터의 변경이 발생하는 모든 영역에서 수시로 프로파일링을 수행함으로 데이터 오류를 사전에 파악하고 예방할 수 있음
참고
https://blog.b2en.com/298
Architect란
1. TA (Technical Architect), DA (Data Architect), AA (Application Architect), QA (Quality Architect), BA (Business architect)
개발팀 구성 : PM, PL, BA, SA, TA, AA, DA, QA, Developer
PM (Project Manger) : 모든 관리 업무를 책임지며 사람으로 외부 팀과 인터페이스를 및 커뮤니케이션 담당하고 의견을 조율하는 담당자
PL : 프로젝트 중간 단계에서 PM을 도와 프로젝트를 리딩 담당, 개발, 관리 능력 (화면설계, 일정관리), 고급 기술(DB, WAS등), 커뮤니케이션을 통해 구체적인 요구 사항을 분석하고, 화면을 설계하여 자신이 관리하는, 개발자들이 실제 개발을 진행할 수 있도록 가이드 하고 관리하는 것
아키텍쳐를 설계하는 사람은 아키텍트 (Architect)
SW 전문가
- 종류 : 소스프웨어 엔지니어링 관리자, 데이터 웨어하우스 설계자, 소프트웨어 개발 관리자, 소프트웨어 아키텍트, 앱 설계자, 기술브로그램 관리자, 엔터프라이즈 설계자, 데브옵스 엔지니어, 정보보안 엔지니어
데이터 웨어하우스 설계자
- 데이터를 추출해 저장하고 조회하는 과정 모두를 포괄하는 용어
- 관련 전문가는 방대한 빅데이터에서 유용한 정보를 추출할 수 있다
- 제품관리, 회계정보, 영업 등의 분야에서 효율성을 높이기 위해 뛰어난 데이터 웨어하우스 설계자
앱 설계자
- 어떤 툴을 사용해 앱을 개발하고 이를 어떻게 발전시켜나갈지를 판단
도요타 AI Center for AI Research (재미있는 연구 주제 들)
Human-Autonomous Vehicle Systems
- Reactive Collision Avoidance / Interaction Aware Planning / I-POMDP
- Investigate interactions across a range of timescales
- Long Timescales ; Interactive Partially Observable
- Markov Deicsion Procss (I-POMDP) for Navigation
- Intermediate Timescales : Interaction-aware trajectory planning using conditional variational auto encoders and game theoretic planning
- Short Timescales : Reactive collision avoidance using buffered Voronoi cells and reachability analysis
- Combine algorithms into integrated autonomy stack
정보기술 KPI
- 개발 Cycle Time : 개발 주기의 도입부터 성장까지 Cycle
- 제품별 공동 부품의 구성 비 : 기술력 강화와 부품의 표준화를 위해 공통부품수에서 제품 단위 부품수 합계를 나눈 지표
- 기술 제휴 파견인력 수 : 기술력 강화와 선진기업과 R&D 제휴를 위해 추진실적에서 추진계획 건수를 나눈 지표
- 개발 효율 : 기술력 강화와 연구생산성향상을 위해 개발 Model에서 투입인원 수를 나눈 지표
- 샘플 QA Pass율 : 생산성 향상과 개발신뢰성향상을 위해 합격건수에서 시험건수를 나눈 지표
- 일정준수율 : 생산성 향상과 개발 일정준수을 위해 실적일정에서 목표일정을 나눈 지표
- 완성품당 구성 부품의 수 : 생산성 향상과 부품표준화를 위해 부품수에서 완성품을 나눈 지표
- 설계재료비율 : 생산성 향상과 연구생산성 향상을 위해 BOM에서 FOB나눈지표
- 신제품 매출비중 : 이익증대와 수익성확보를 위해 신제품매출에서 총매출을 나눈 지표
nvidia 튜닝 추가 진행
nvidia-smi -pm 1
nvidia-smi -acp 0
Bench Marking Test (BMT)
- 도입하고자 하는 Solution Boundary 가 정해지면 몇 개의 대상 Vendor를 선정해서 성능 테스트를 진행
- 고객사가 과제를 내고 해당 과제를 특정일까지 구현한 후에 기능 검증 및 성능 검증: H/W 환경은 동일
- 하드웨어나 소프트웨어의 성능을 비교 분석하여 평가하는 것, e.g) 다양한 서버 컴퓨터 기종간의 처리 속도를 테스트하기 위해 실제 서버를 이용하여 성능을 측정하고 테스트 결과를 바탕으로 평가를 내리는 것을 벤치마킹 테스트라고 함
https://ko.wikipedia.org/wiki/%EB%B2%A4%EC%B9%98%EB%A7%88%ED%82%B9
스트레스 테스트 (Stress testing) 는 주어진 시스템이나 실체의 안정성을 결정하기 위해 진행되는 신중하고 면밀한 테스트.
- 결과 관찰을 목적으로 이 한계점에 이를 만큼의 일반적인 운용 능력을 넘어서는 테스트를 수반
- 한계점이나 안전 이용 한계를 결정하기 위해
- 의도된 규격이 충족하는지 확인하기 위해