CSEC. Soongsil Univ.
Undergraduate Researcher
2023.07 – present
Job Description
국방 AI 보안 사업 진행
타겟 모델을 설정하여 white box 환경과 black box 환경에서의 모델의 취약성을 분석하고 공격했습니다. 또 방어 기법을 연구하여, 모델 취약성 분석 및 방어 프레임워크를 제작했습니다.
해당 사업을 기반으로 학회지(우수논문상), 논문, 국내특허, 해외특허(PCT심사)의 결과물을 산출하였습니다.
LLM Redteaming
LLM 을 타겟으로 Adversarial Prompt 및 Jail Break 등 실제 LLM 서비스를 침투하기위한 red teaming을 연구중입니다.
Ability
- Data Preprocess
- NLP
- Computer Vision
- Document Handling