Является ли это дырявой абстракцией, если реализация интерфейса вызывает Dispose

Да, это дырявая абстракция, когда вы позволяете ICustomerCreditService реализовать IDisposable, поскольку теперь вы написали ICustomerCreditService с учетом конкретной реализации. Кроме того, это сообщает потребителю этого интерфейса, что он может удалить эту услугу, что может быть неправильным, тем более, что в общем случае ресурс должен быть удален тем, кто его создает (кто имеет право собственности). Когда вы вводите ресурс в класс (например, используя внедрение конструктора), неясно, передается ли право собственности потребителю.

Так что, как правило, тот, кто отвечает за создание этого ресурса, должен его утилизировать.

Однако в вашем случае вы можете просто предотвратить это, внедрив одноразовую реализацию ICustomerCreditServiceClient, которая просто создает и удаляет клиент WCF в одном и том же вызове метода. Это делает все намного проще:

public class WcfCustomerCreditServiceClient
    : ICustomerCreditServiceClient
{
    public CreditLimit GetCreditLimit(Customer customer)
    {
        using (var service = new CustomerCreditServiceClient())
        {
            return service.GetCreditLimit(customer.Firstname,
                customer.Surname, customer.DateOfBirth);       
        }
    }
}

Вы должны вызвать Dispose ICustomerCreditService там, где он был создан, поскольку MyClass теперь не знает о жизненном цикле ICustomerCreditService.

Начиная снова с первой реализации, я бы попытался добавить в класс getInterface-Request, чтобы реализация могла оставаться более или менее такой же. Затем он может безопасно вызывать Dispose (фактически он только откладывает создание реализации интерфейса, но сохраняет контроль над его жизненным циклом): (c#-код не проверен...)

public class MyClass()
{
  public delegate ICustomerCreditService InterfaceGetter;
  private InterfceGetter getInterface;
  public MyClass(InterfaceGetter iget)
  {
    getInterface = iget;
  }
  public DoSomething()
  {
    using (var customerCreditService = getInterface())
    {
       var creditLimit = customerCreditService.GetCreditLimit(customer.Firstname, customer.Surname, customer.DateOfBirth);       
    }
  }
}

Вы должны обрабатывать жизненный цикл customerCreditService в вызывающем коде. Как MyClass узнать, нужна ли услуга вызывающему абоненту? Если вызывающий объект отвечает за очистку своих ресурсов, то MyClass не обязательно должен быть одноразовым.

// calling method

using (var service = new CustomerCreditServiceClient()) {
    var myClass = new MyClass(service);
    myClass.DoSomething();
}

Обновление: В комментариях OP упомянул использование IoC, такого как Ninject. Тогда код может выглядеть так:

IKernel kernel = ...;

using (var block = kernel.BeginBlock())
{
    var service = block.Get<ICustomerCreditService>();
    var myClass = new MyClass(service);
    myClass.DoSomething();
}

kernel.BeginBlock() создает блок активации. Это гарантирует, что разрешенные экземпляры удаляются, когда блок заканчивается.

Да это так. Но это необходимое зло. Само существование интерфейса IDisposable представляет собой дырявую абстракцию. Дырявые абстракции — это просто повседневный факт программирования. По возможности избегайте их, но не беспокойтесь, если не можете — они все равно вездесущи.