diff --git a/test/rubygems/test_gem_remote_fetcher_local_server.rb b/test/rubygems/test_gem_remote_fetcher_local_server.rb
index 4a408e3bf3..3d3e8b503b 100644
--- a/test/rubygems/test_gem_remote_fetcher_local_server.rb
+++ b/test/rubygems/test_gem_remote_fetcher_local_server.rb
@@ -90,10 +90,12 @@ gems:
 
     if @normal_server
       @normal_server.kill.join
+      @normal_server[:server].close
       @normal_server = nil
     end
     if @proxy_server
       @proxy_server.kill.join
+      @proxy_server[:server].close
       @proxy_server = nil
     end