๋กœ์ผ“๐Ÿพ
article thumbnail
[Karpenter] NVIDIA GPU ๊ฐ€ ์‚ฌ๋ผ์ง€์งˆ ์•Š์•„์š”!
DevOps/Karpenter 2023. 6. 19. 20:17

Karpenter ๋Š” AWS ์—์„œ ์ง„ํ–‰ ์ค‘์ธ ์˜คํ”ˆ ์†Œ์Šค ํ”„๋กœ์ ํŠธ๋กœ ์ฟ ๋ฒ„๋„คํ‹ฐ์Šค์—์„œ AWS ASG ๋ณด๋‹ค ํ•œ ์ฐจ์› ๋†’์€ ์ˆ˜์ค€์˜ ์Šค์ผ€์ผ๋ง์„ ์ œ๊ณตํ•ด์ค๋‹ˆ๋‹ค. Karpenter ๊ฐ€ ๋ฌด์—‡์ธ์ง€ ๋ชจ๋ฅด๊ฒ ๋‹ค๋ฉด ์—ฌ๊ธฐ๋ฅผ ์ฐธ๊ณ ! Karpenter ๋ฅผ ์ด์šฉํ•˜๋ฉด CPU ์ธ์Šคํ„ด์Šค ๋ฟ๋งŒ ์•„๋‹ˆ๋ผ GPU ์ธ์Šคํ„ด์Šค ๋˜ํ•œ ์ •๋ง์ •๋ง ์œ ๋™์ ์œผ๋กœ ํ”„๋กœ๋น„์ €๋‹ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Karpenter ๋ฅผ ์“ฐ๋ฉด ์“ธ ์ˆ˜๋ก "์™€ ์ด๊ฑฐ ์ง„์งœ ์งฑ์ธ๋ฐ?" ๋ผ๋Š” ์ƒ๊ฐ์ด ๋งŽ์ด ๋“ญ๋‹ˆ๋‹ค. ์•„์ฃผ ์œ ์šฉํ•œ ํ”„๋กœ์ ํŠธ์ธ๊ฑฐ ๊ฐ™์•„์š”. CPU ์ธ์Šคํ„ด์Šค ๊ฐ™์€ ๊ฒฝ์šฐ์—๋Š” Karpenter ๋งŒ ์„ค์น˜ํ•˜๋ฉด ํ”„๋กœ๋น„์ €๋‹, ๋””ํ”„๋กœ๋น„์ €๋‹ ๋ชจ๋‘ ์ž˜ ๋™์ž‘ํ•ฉ๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ GPU ์ธ์Šคํ„ด์Šค ๊ฒฝ์šฐ ํ”„๋กœ๋น„์ €๋‹์€ ์ž˜๋˜์ง€๋งŒ, ๋””ํ”„๋กœ๋น„์ €๋‹์€ ๋™์ž‘ํ•˜์ง€ ์•Š์•„์š”. ์ฒ˜์Œ์—๋Š” ์•„์ง ๋ฉ”์ด์ € ๋ฒ„์ „์ด๋ผ์„œ GPU ๊ด€๋ จํ•œ ๊ธฐ๋Šฅ์ด ๊ฐœ๋ฐœ์ด ์•ˆ๋œ ..

article thumbnail
[Karpenter] ๋…ธ๋“œ์˜ Deprovisioning ์„ ์ข€ ๋” ์•„๋ฆ„๋‹ต๊ฒŒ~
DevOps/Karpenter 2023. 5. 17. 00:04

๋งค์šฐ๋งค์šฐ๋งค์šฐ ์ค‘์š”! Karpenter v0.32 ๋ฒ„์ „๋ถ€ํ„ฐ ๋ฆฌ์†Œ์Šค ์ด๋ฆ„๋“ค์ด ๋ณ€๊ฒฝ๋˜์–ด ์ฐธ๊ณ  ๋ฐ”๋ž๋‹ˆ๋‹ค. ๊ฐœ๋…์€ ๋˜‘๊ฐ™์Šต๋‹ˆ๋‹ค. (ex. Provisioners -> NodePools) Karpenter ์˜ ๊ฐœ๋…์„ ์•Œ๊ณ  ์‹ถ๋‹ค๋ฉด ์—ฌ๊ธฐ ์ฐธ๊ณ ! Karpenter ๋ฅผ ํŒŒ๋ฉด ํŒ”์ˆ˜๋ก ์ •๋ง ์œ ์šฉํ•œ ์˜คํ”ˆ์†Œ์Šค์ธ๊ฑฐ ๊ฐ™์•„์š”. ASG ๋ฅผ ๋„˜์–ด์„œ ํ›จ์”ฌ ํšจ์œจ์ ์ด๊ณ  ์œ ๋™์ ์œผ๋กœ ๋…ธ๋“œ์™€ ํŒŒ๋“œ๋ฅผ ๊ด€๋ฆฌํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์ฃผ๊ฑฐ๋“ ์š”. ์Šค์ผ€์ค„๋ง ์‹œ์Šคํ…œ์„ ๊ฐœ๋ฐœํ•˜๊ณ  ์žˆ๋Š”๋ฐ, Karpenter ๊ฐ€ ์—†์—ˆ๋‹ค๋ฉด ๋งŽ์ด ํž˜๋“ค์—ˆ์„ ๊ฒ๋‹ˆ๋‹ค... ์ด๋ฒˆ ๊ธ€์—์„œ๋Š” Karpenter ์˜ Deprovisioning ์— ๋Œ€ํ•ด ์•Œ์•„๋ณด๋ ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค. ๊ฐ€์žฅ ํ•ต์‹ฌ์ด๋ผ๊ณ  ๋ณผ ์ˆ˜ ์žˆ์ฃ . Deprovisioning ๊ด€๋ จ ์˜ต์…˜์€ ํฌ๊ฒŒ 2๊ฐ€์ง€๋กœ ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ์–ด์š”. - ttlSecondsAfterEmpty ..

article thumbnail
[Karpenter] ๋…ธ๋“œ๋ฅผ ์ค„์˜€๋‹ค๊ฐ€ ๋Š˜๋ ธ๋‹ค๊ฐ€ ํ•ฉ์ณค๋‹ค๊ฐ€ ์—†์•ด๋‹ค๊ฐ€ ~
DevOps/Karpenter 2023. 3. 19. 12:19

๋งค์šฐ๋งค์šฐ๋งค์šฐ ์ค‘์š”! Karpenter v0.32 ๋ฒ„์ „๋ถ€ํ„ฐ ๋ฆฌ์†Œ์Šค ์ด๋ฆ„๋“ค์ด ๋ณ€๊ฒฝ๋˜์–ด ์ฐธ๊ณ  ๋ฐ”๋ž๋‹ˆ๋‹ค. ๊ฐœ๋…์€ ๋˜‘๊ฐ™์Šต๋‹ˆ๋‹ค. (ex. Provisioners -> NodePools) AWS EKS ๋ฅผ ํ†ตํ•ด ํด๋Ÿฌ์Šคํ„ฐ๋ฅผ ๊ตฌ์ถ•ํ•˜๋ฉด Data Plane (์ดํ•˜ Node) ๋ฅผ ๋‹ค์–‘ํ•œ ๋ฐฉ์‹์œผ๋กœ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Managed Node Group, Fargate ๊ทธ๋ฆฌ๊ณ  ์ด๋Ÿฌํ•œ ๋ฆฌ์†Œ์Šค๋ฅผ ์œ ์—ฐํ•˜๊ฒŒ ๊ด€๋ฆฌํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์ฃผ๋Š” AWS Auto Scaling, Karpenter ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฒˆ ๊ธ€์—์„œ๋Š” Karpenter ๋ฅผ ํ†ตํ•ด AWS Auto Scaling ๋ณด๋‹ค ์œ ์—ฐํ•˜๊ฒŒ Node ๋ฅผ ๊ด€๋ฆฌํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์•Œ์•„๋ณด๊ณ ์ž ํ•ฉ๋‹ˆ๋‹ค. ์šฐ์„  ๊ฐ„๋‹จํ•˜๊ฒŒ ์•Œ์•„๋ณด๋„๋ก ํ•˜์ฃ . ๋ ›์ธ ๋‘๋”์ฝ”๋“œ! Karpenter ๊ฐ€ ๋ญ์ฃ ? ์—ฌ๊ธฐ์„œ ๋งํ•˜๋Š” ๋…ธ๋“œ == ์ธ์Šคํ„ด์Šค ..

profile on loading

Loading...