

집 전체 로컬디바이스들을 ai추론용 클러스터로 동기화시키는 프로그램 런칭함.
단, 병렬작업으로 처리되며, 가상GPU로 통합하는 기능은 제공하지않음

RTX20 이상 컴퓨터 혹은 맥미니 m4 이상 디바이스를 지원하는데, 저기 함정은 모델받을때 빼고는 인터넷이 필요없다고하는데,
내부망 즉 로컬네트워크 속도가 높아야 추론속도가 올라감 ( 허브,공유기 1gbps로는 답이 안나올지도;)
한줄요약 : 그런데 저거 로컬LLM으로 병렬화시켜서 추론하면, 일반가정집 누진제로 감당이 되나;
수다VIVE