Как перетащить mp3-файлы в список без пути к файлу?

Элементы списка могут содержать объекты. Поскольку вы хотите иметь доступ к полному имени, но отображать только имя файла, этот класс будет хранить отброшенное полное имя, но отображать только часть имени файла. Это удобно, когда для каждого элемента нужно сохранить несколько битов информации.

class FileItem
{
    public string FullName { get; set; }
    public FileItem(string file)
    {
        FullName = file;
    }

    public override string ToString()
    {
        return Path.GetFileNameWithoutExtension(FullName);
    }
}

Полное имя сохраняется, но при переопределении будет отображаться только короткое имя. Когда файлы будут удалены, мы создадим из них объекты FileItem. Тогда есть 2 варианта:
а) поместить объекты в ListBox и избавиться от mediaList или
б) поместить новые элементы в медиалист и использовать его как источник данных.

Это сделает второе, так как mediaList не привязан к пользовательскому интерфейсу. Обязательно измените mediaList, как показано:

// new mediaList 
List<FileItem> mediaList = new List<FileItem>();
...
private void lb1_DragDrop(object sender, DragEventArgs e)
{
    string[] files = (string[])e.Data.GetData(DataFormats.FileDrop, false);
    foreach (string f in files)
    {
        mediaList.Add(new FileItem(f));
    }
    // tell the LB to display whatever is in mediaList
    lb1.DataSource = mediaList;
}

Вместо 2 копий файлов то, что находится в mediaList, также отображается в ListBox; объекты FileItem в нем будут отображать только короткое имя. Ваш исходный код должен работать с настройкой:

axWindowsMediaPlayer1.URL = mediaList[lb1.SelectedIndex].FullName;

В противном случае без DataSource вам нужно будет преобразовать Items обратно в FileItem и использовать FullName, чтобы вернуть исходное полное имя пути:

FileItem fil = (FileItem) lb1.Items[lb1.SelectedIndex];
axWindowsMediaPlayer1.URL = fil.FullName;

// or 
axWindowsMediaPlayer1.URL = ((FileItem)lb1.SelectedItem).FullName;