카이스트총동문회

동문소식 (총 3025건)

생명과학과

SCL사이언스 자회사 네오젠로직, 암백신 AI 기술 中 특허 확보…10조 시장 진입 - 최정균 동문(생명과학)
언론사 연결하기
- KAIST총동문회
- 2026-07-15
동문소식 > 최근 소식 > 언론 속 동문소식
정보및통신공학과

"17곳 중 9곳이 택했다” 코어라인소프트, 권역거점병원 AI 공급권 확보 - 김진국 동문(전기및전자공학)
언론사 연결하기
- KAIST총동문회
- 2026-07-15
동문소식 > 최근 소식 > 언론 속 동문소식
화학공학과

스카이테라퓨틱스 130억 유치, 신약·뷰티 '투트랙' 속도 - 김철환 동문(화학공학)
언론사 연결하기
- KAIST총동문회
- 2026-07-15
동문소식 > 최근 소식 > 언론 속 동문소식
전기및전자공학부

[연구]‘나만의 AI’ 더 안전하게 만든다...AI 개인화 시대 핵심기술 개발

< (왼쪽부터) 이원준 박사과정, 김창익 교수, 함석일 박사과정, 장재혁 박사과정 > “우리 회사 문서만 학습한 AI 비서를 만들어줘.”기업과 개인이 자신의 문서와 데이터를 AI에 학습시켜 ‘나만의 AI’를 만드는 시대가 열리고 있다. 하지만 AI를 맞춤형으로 학습시키면 업무 능력은 높아지는 반면 기존의 안전장치가 약해질 수 있다는 한계가 있었다. 국내 연구진이 맞춤형 성능은 그대로 유지하면서 안전성은 오히려 높이는 AI 핵심 기술을 개발했다.우리 대학은 전기및전자공학부 김창익 교수 연구팀이 챗GPT와 같은 대형언어모델(LLM, Large Language Model)을 개인이나 기업의 데이터에 맞게 다시 학습시키는 파인튜닝(Fine-tuning, 기존 AI에 새로운 지식이나 업무를 추가로 학습시키는 과정)에서 안전성이 훼손되는 문제를 해결하는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 학습 프레임워크를 개발했다고 15일 밝혔다.< 연구 개요 Buffer-and-Reinforce 학습 프레임워크 및 활용 > 기존에는 AI를 맞춤형으로 학습시키면 새로운 업무 능력은 향상되지만 기존의 안전 규칙이 함께 약화되는 문제가 AI 개인화 시대의 가장 큰 과제로 꼽혀왔다. 연구팀은 먼저 AI가 원래 거부해야 할 위험한 요청에도 응답할 수 있도록 만든 ‘탈옥(Jailbreak)’ 상태의 AI를 맞춤형으로 학습시키면 오히려 안전성이 크게 훼손되지 않는다는 기존 연구 결과에 주목했다.이에 연구팀은 탈옥 상태를 실제 서비스에 사용하는 것이 아니라 완충 모듈인 ‘버퍼로라(BufferLoRA)’를 활용해 맞춤형 학습 과정에서만 일시적으로 적용한 뒤 제거하는 새로운 접근법을 고안했다.연구팀은 왜 이러한 현상이 발생하는지를 세계 최초로 규명했다. 그 결과 탈옥 상태의 AI는 위험한 정보에는 더 이상 쉽게 영향을 받지 않는 반면, 사용자가 원하는 새로운 업무 능력은 그대로 효과적으로 학습한다는 사실을 확인했다. 즉, 위험한 정보는 추가로 받아들이지 않으면서 필요한 지식은 계속 학습하는 원리를 밝혀낸 것이다.이를 바탕으로 연구팀은 ‘완충(Buffer)’과 ‘안전성 강화(Reinforce)’의 두 단계 학습 기법을 개발했다.먼저 완충 모듈인 ‘버퍼로라(BufferLoRA)’를 AI에 임시로 적용해 맞춤형 학습 과정에서 악성 데이터가 AI 본체에 직접 영향을 주지 못하도록 막아주는 보호막 역할을 하도록 했다. 맞춤형 학습이 끝나면 이 모듈은 제거된다.이후 안전성 강화 모듈인 ‘리인포스로라(ReinforceLoRA)’를 적용해 AI의 안전성을 다시 높였다. 이 과정에서는 큐알 분해(QR Decomposition, 서로 다른 정보를 분리해 필요한 정보만 선택적으로 반영하는 수학적 기법)를 활용해 사용자가 학습시킨 새로운 기능은 그대로 유지하면서 안전성만 선택적으로 강화하는 데 성공했다.쉽게 말해, 연구팀은 AI 본체에 임시 보호막(BufferLoRA)을 씌워 악성 데이터가 직접 영향을 주지 못하도록 한 뒤 필요한 업무만 학습시켰다. 이후 보호막을 제거하고 안전성 강화 모듈(ReinforceLoRA)을 적용해 AI의 안전장치를 다시 강화함으로써 맞춤형 성능은 그대로 유지하면서 안전성까지 높이는 데 성공한 것이다.실험 결과, 사용자 데이터가 모두 위험한 질문과 답변으로 구성된 극단적인 환경에서도 AI는 높은 안전성을 유지했다. 재학습 이후 위험한 답변을 생성하는 비율은 약 8%로, 재학습을 하지 않은 기존 모델의 약 18%보다도 낮은 수준을 기록했다. 또한 별도의 안전성 재학습이나 추가적인 계산 비용 증가 없이 맞춤형 성능과 최고 수준의 안전성을 동시에 확보해 실제 AI 개인화 서비스에도 효율적으로 적용할 수 있는 가능성을 제시했다.김창익 교수는 “이번 연구는 누구나 자신의 데이터로 맞춤형 AI를 자유롭게 만들면서도 더욱 안전하게 사용할 수 있도록 하는 핵심 기반 기술”이라며 “AI 안전성이 더욱 강조되는 AI 개인화와 AI 에이전트 시대에 신뢰할 수 있는 AI 서비스 환경을 구축하는 데 크게 기여할 것으로 기대한다”고 말했다.이번 연구는 KAIST 전기및전자공학부 함석일 박사과정이 제1저자로 참여했으며, 인공지능 분야 세계 최고 권위 학술대회인 국제머신러닝학회(ICML, International Conference on Machine Learning) 2026에서 7월 전체 투고 논문 중 상위 약 2.2%에만 주어지는 스포트라이트(Spotlight) 논문으로 채택되어 세계적인 주목을 받았다.※ 논문명 : Jailbreak to Protect: Buffering and Reinforcing via Temporary Jailbreaking for Safe Fine-Tuning in Large Language Models, DOI: 10.48550/arXiv.2605.24550※ 저자 정보 : 함석일(한국과학기술원, 제1 저자), 장재혁(한국과학기술원, 제2 저자), 이원준(한국과학기술원, 제3 저자), 김창익(한국과학기술원, 교신저자)※ 관련 동영상 파일: https://drive.google.com/file/d/1gfok06dE8699qtiUR7gVsRoVmBGADaWQ/view?usp=sharing한편, 이번 연구는 과학기술정보통신부 정보통신기획평가원(IITP)이 지원하는 ‘공존가능한 신뢰AI를 위한 AI Safety 기술개발사업’의 지원을 받아 수행됐다.출처 : https://researchnews.kaist.ac.kr/researchnews/html/news/?mode=V&mng_no=64390
- KAIST총동문회
- 2026-07-15
동문소식 > 모교 소식 > 연구개발
항공우주공학과

[연구]전기 신호만으로 광학 기능 바꾸는 ‘우주센서’ 시대 연다

< (왼쪽부터) 코스민 콘스탄틴 포페스쿠(Cosmin Constantin Popescu, 제 1저자, MIT), 주에이전 후(Juejun Hu) 교수(MIT), 김현정 교수(KAIST) > 위성이나 우주탑재체는 임무가 바뀔 때마다 광학 필터와 센서를 새로 설계해야 했다. 앞으로는 하나의 초소형 광학 칩이 전기 신호만으로 열영상 센서, 분광기, 적외선 카메라 등 다양한 역할을 수행하는 시대가 열릴 전망이다.우리 대학은 항공우주공학과 김현정 교수 연구팀이 미국 매사추세츠공과대학교(MIT, Massachusetts Institute of Technology) 주에이전 후(Juejun Hu) 교수 연구팀과 함께 빛을 원하는 방식으로 자유롭게 제어하는 초소형 광학 칩을 세계 최초로 개발했다고 14일 밝혔다.이번 연구의 핵심은 하나의 광학 칩이 전기 신호만으로 다양한 센서 역할을 수행하도록 만든 것이다. 기존에는 새로운 임무를 수행할 때마다 광학 필터와 센서를 새로 제작해야 했지만, 앞으로는 하드웨어를 교체하지 않고도 센서의 기능을 바꾸는 ‘소프트웨어 정의(Software-defined) 센서' 구현이 가능할 것으로 기대된다.연구팀이 개발한 장치는 메타표면(Metasurface, 머리카락보다 훨씬 작은 미세 구조를 이용해 빛의 세기와 방향, 파장 등을 자유롭게 제어하는 초박형 광학 구조) 기반의 투과형 중적외선 공간광변조기(SLM, Spatial Light Modulator)다. 공간광변조기는 빛이 얼마나 통과하고 어떤 형태로 전달될지를 픽셀(Pixel, 화면을 이루는 최소 단위) 단위로 조절하는 광학 소자다. 연구팀은 각 픽셀을 전기적으로 독립 제어하는 데 세계 최초로 성공했다.< 전기적으로 개별 제어 가능한 2차원 메타표면 어레이 구조와 제작 소자 > 기존 중적외선 SLM은 대부분 빛을 반사시키는 방식이거나 많은 픽셀을 각각 독립적으로 제어하기 어려워 위성 센서나 초소형 분광기(빛을 파장별로 분석하는 장치), 적응형 광학계(환경 변화에 맞춰 광학 성능을 자동 조절하는 시스템)에 적용하는 데 한계가 있었다.연구팀은 전기 신호를 받으면 빛이 통과하는 정도가 달라지는 광학 상변화 소재(PCM, Phase Change Material)인 GSST(Ge₂Sb₂Se₄Te, 게르마늄-안티모니-셀레늄-텔루륨)를 활용해 이러한 문제를 해결했다. 이 소재는 전기 신호를 한 번 받으면 상태가 유지돼 전원이 꺼져도 계속 같은 성능을 유지하는 비휘발성(Non-volatile) 특성을 갖는다. 따라서 지속적으로 전력을 공급할 필요가 없어 전력 사용이 제한적인 위성이나 우주탑재체에 적합하다.광학 칩의 픽셀 수가 많아질수록 선택한 픽셀 외에 다른 픽셀에도 전류가 흘러 원하지 않는 픽셀까지 함께 작동하는 기생 경로(Sneak Path) 문제가 발생한다. 연구팀은 각 픽셀에 ‘실리콘 PIN 다이오드(PIN Diode, 원하는 픽셀에만 전류가 흐르도록 하는 반도체 소자)’를 적용해 원하는 픽셀만 정확하게 선택해 제어하는 데 성공했다.이를 통해 6×6 픽셀 배열의 모든 픽셀을 독립적으로 제어하고 원하는 광학 패턴을 구현했다. 또한 약 1만 6,700회 이상 반복 구동 후에도 안정적인 성능을 유지해 기존 기술보다 약 13배 높은 내구성을 입증했다.이번 소자는 ‘실리콘 포토닉스(Silicon Photonics, 반도체 공정을 이용해 광학 소자를 제작하는 기술)’ 기반으로 제작돼 향후 수백~수천 개 이상의 픽셀을 갖는 대형 광학 칩으로 확장하기 쉽다. 현재는 빛의 양을 조절하는 기능을 구현했지만, 앞으로는 메타표면 구조를 더욱 정교하게 설계해 빛의 방향과 편광까지 자유롭게 제어하는 범용 재구성 광학(Universal Reconfigurable Optics)으로 발전할 수 있을 것으로 기대된다.이번 연구의 가장 큰 의미는 ‘광학도 소프트웨어처럼 바꿀 수 있다'는 새로운 개념을 제시했다는 점이다. 즉 하나의 센서를 여러 종류의 센서처럼 사용할 수 있는 길을 연 것이다. 앞으로는 하나의 광학 칩이 상황에 따라 열영상 센서, 분광기, 적외선 카메라, 광통신 장치 등 서로 다른 기능을 수행하는‘소프트웨어 정의 센서' 시대가 열릴 것으로 기대된다.이 기술이 상용화되면 위성과 우주탑재체는 물론 발사체 상태진단, 우주정거장 열 감시, 우주 제조 공정 계측, 적외선 영상, 광통신 등 다양한 광학 시스템을 하나의 플랫폼으로 구현할 수 있을 것으로 전망된다.이번 연구는 김현정 교수가 미국 항공우주국(NASA, National Aeronautics and Space Administration) 연구원으로 재직하던 2018년 시작한 MIT-NASA 공동연구를 KAIST에서 발전시킨 성과다. 이를 바탕으로 현재는 KAIST STAR Lab과 MIT 주에이전 후(Juejun Hu) 교수 연구팀이 능동 메타광학(Active Meta-optics), 실리콘 포토닉스, 우주 센서 시스템을 공동 연구하며 실제 우주 적용을 목표로 협력하고 있다. 양 연구팀은 소재 개발부터 칩 설계·제작, 센서 시스템 통합, 우주환경 검증, 향후 비행실증까지 이어지는 전 주기 국제공동연구 체계를 구축했다.< 연구 이미지 (AI 생성) > 김현정 교수 연구팀은 이번 기술을 실제 우주 센서로 발전시키고 있다. 과학기술정보통신부 신진연구사업에서는 발사체 표면의 초정밀 온도 측정 시스템을 개발하고 있으며, 혁신연구센터사업(IRC, Innovation Research Center)‘우주 서비스 및 제조 연구센터'에서는 우주정거장의 열 감시, 이상 진단, 우주 제조 공정 계측, 광통신 등에 활용 가능한 공통 광학 플랫폼으로 확대 연구를 진행하고 있다.김현정 교수는 "이번 연구는 새로운 광학 소자를 하나 더 만든 것이 아니라 하나의 광학 칩이 임무에 따라 다양한 기능을 수행하는‘소프트웨어 정의 센서' 시대의 기반을 제시한 것”이라며 "MIT의 나노포토닉스(Nanophotonics, 나노 구조를 이용해 빛을 제어하는 기술)와 KAIST의 우주 센서 기술을 결합해 실제 우주 시스템으로 발전시키겠다”고 말했다.이번 연구 결과는 국제학술지 네이처 커뮤니케이션즈(Nature Communications) 7월 7일 온라인판에 게재됐다.※ 논문명: Two-dimensional pixel-level addressable mid-infrared metasurface spatial light modulator, DOI: 10.1038/s41467-026-75346-5본 연구는 과학기술정보통신부 신진연구유형 B(구 우수신진연구)와 혁신연구센터사업(IRC)의 지원을 받아 수행됐다. 출처 : https://researchnews.kaist.ac.kr/researchnews/html/news/?mode=V&mng_no=64351
- KAIST총동문회
- 2026-07-15
동문소식 > 모교 소식 > 연구개발

사업&활동 (총 17건)

회비 및 서비스 (총 1건)

동문회비 안내
- 매니저
- 2024-11-11
회비 및 서비스 > 회비·찬조금납부 > 동문 회비 안내

총동문회 소개 (총 5건)

장학재단 소개 (총 4건)

개인정보 보호방침 (총 1건)

연혁
- 관리자
- 2024-12-19
개인정보 보호방침 > 개인정보 보호방침

이용약관 (총 2건)

통합검색

통합검색