Mellanox ConnectX-4 윈도우 Code 10 에러

by

안녕하세요!

이번에는 트러블 슈팅으로 뵙습니다.

윈도우 10에서 Mellanox ConnectX-4 (MCX4421A, MCX4121A) 장착 시 장치 관리자에서 Code 10이 뜨는 문제에 대한 해결 가이드를 작성하려고 합니다.
2025년 Nvidia Q&A에서도 한번 다룬 적이 있는 이슈입니다. (미해결 문제)
이 가이드는 실제로 효과가 있었던 방법인 BIOS 업데이트로 설명합니다.

반대로 말하면, BIOS 업데이트 이외에는 근본적인 해결책이 없음을 미리 명시합니다.

문제 상황

Mellanox ConnectX-4 Lx를 소비자용 마더보드의 윈도우 10에 설치하면 장치 관리자에서 코드 10 오류가 지속적으로 발생합니다.

구글링 혹은 AI를 통해 방법을 찾아본 결과
펌웨어 업데이트, SR-IOV 비활성화, 종료 스크립트 등을 제안하지만,
이것들은 근본 원인을 해결하지 못합니다.

하드웨어 구성

  • 마더보드: MSI MAG B660M 박격포 (Intel B660 칩셋)
  • CPU: Intel Core i5-12400
  • NIC: Mellanox ConnectX-4 Lx (MCX4421A, MCX4121A)
  • 폼팩터: OCP, PCIe 둘 다 테스트
  • OS: Windows 10 22H2
  • 목표: Proxmox 서버와 10Gbps 직결

효과 없었던 방법들

1. 펌웨어 업데이트

mlxup.exe

14.32에서 14.42로 업데이트. 콜드 부팅 후에도 여전히 코드 10.

2. 펌웨어 리셋

mlxconfig -d mt4117_pciconf0 reset

카드 설정을 공장 초기화. 일시적으로 작동했지만 재부팅 후 코드 10 재발.
mt4117_pciconf0은 제 device 이름입니다.

3. SR-IOV 비활성화

mlxconfig -d mt4117_pciconf0 set SRIOV_EN=0 NUM_OF_VFS=0

소비자용 보드에서 문제를 일으키는 엔터프라이즈 기능인 SR-IOV 비활성화.
여전히 코드 10.

4. 종료 스크립트 우회 방법

매 종료 시 카드를 리셋하는 배치 파일 생성:

echo y | mlxconfig -d mt4117_pciconf0 --yes reset

그룹 정책(gpedit.msc → 컴퓨터 구성 → 스크립트 → 종료)으로 등록.
우회 방법으로는 작동했지만 매 부팅마다 리셋 필요.
진짜 해결책이 아님.

5. 드라이버 재설치

최신 버전(26.1.50000)과 LTS(3.10.52010) 모두 시도. 차이 없음.

진짜 해결책: BIOS 업데이트

마더보드 BIOS를 버전 1.10 (2021-11-15)에서 1O (2026-03-27)로 업데이트.

왜 이게 효과가 있었나

MSI B660 마더보드는 2021년 말 출시되었고 초기 BIOS 버전은 소비자용 하드웨어에 최적화되어 있었습니다.
Mellanox 같은 엔터프라이즈 NIC는 테스트되지 않았습니다.
PCIe 초기화를 개선한 주요 BIOS 업데이트:

  • v1H (2024-04-02): “Update Code Base” — PCIe 초기화 로직 대폭 개선
  • v1N (2025-08-15): “Enable Pre-boot DMA Protection, VT-d, and IOMMU Pre-boot defaults” — SR-IOV 활성화 상태에서도 PCIe 장치 인식 개선
  • 누적 ME 펌웨어 업데이트: Intel Management Engine이 PCIe 장치 초기화 담당

결과

BIOS 업데이트 후:

  • 양쪽 포트 모두 인식 (듀얼 포트 카드)
  • 코드 10 오류 없음
  • SR-IOV 여전히 활성화 (True) 상태지만 정상 작동
  • 콜드 부팅에서도 안정적

확인:

Get-NetAdapter | Where-Object {$_.InterfaceDescription -like "*Mellanox*"}

출력:

Name       Status         LinkSpeed  DriverVersion
----          ------          ---------     -------------
이더넷 8   Up              10 Gbps     3.10.25798.0
이더넷 7   Disconnected 0 bps        3.10.25798.0

필수 BIOS 설정

소비자용 마더보드에서 Mellanox NIC 사용 시 필수 설정:

  1. Above 4G Decoding: Enabled
  2. Re-Size BAR Support: Enabled
  3. Fast Boot: Disabled (선택사항이지만 권장)

타임라인 맥락

이 해결책은 최근에야 가능해졌습니다:

  • 2014년: ConnectX-4 출시
  • 2021년 11월: B660 칩셋 + BIOS 1.10 출시
  • 2024년 4월: BIOS v1H 출시 (PCIe 개선)
  • 2026년 4월: 제 테스트로 해결 확인

2023년에 시도했다면 작동하지 않았을 겁니다.
필요한 BIOS 개선이 아직 존재하지 않았으니까요.

결론

BIOS 업데이트가 결정적 해결책이었습니다.
소비자용 마더보드에서 Mellanox ConnectX-4 Lx를 윈도우 10에서 사용하려면 BIOS 업데이트가 필수입니다.
펌웨어 업데이트, SR-IOV 비활성화, 종료 스크립트는 기껏해야 우회 방법일 뿐입니다.

다만, BIOS 업데이트로도 해결되지 않는 경우, 깔끔하게 포기하는 것을 권장드립니다.

최종 구성

  • Windows PC: Mellanox ConnectX-4 Lx (OCP 폼팩터)
  • Proxmox 서버: Mellanox ConnectX-4 Lx (OCP 폼팩터)
  • 연결: SFP+ DAC 케이블 직결
  • 속도: 10Gbps 전이중
  • 안정성: 여러 번 콜드 부팅 후에도 문제 없음

최종 업데이트: 2026-04-19
테스트 환경: MSI MAG B660M 박격포, BIOS 1O, Windows 10 22H2

감사합니다.

Leave a Comment