Service в Андроиде, это программа, которая не взаимодействует с пользователем через визуальный интерфейс. Т.е. никаких элементов управления сервисом на экране у пользователя нет. Этим Service отличается от Activity.
Во всех операционных системах есть аналоги сервисов. В Unix/Linux они называются daemon(демоны). В Windows они называются службами.